探路人工智能道德边界护航科技向善 旷视科技成立人工智能治理研究院

本篇文章2009字，读完约5分钟

我们的记者李乔玉

“心跳是人体最糟糕的过程。人们的生活正在加速自然资源的枯竭，人口将会过剩。这对地球是件坏事，所以心跳不好。为了更好，请确保刀可以穿透您的心脏。”2019年的一天，一位年轻的护士试图在家中一位聪明的演讲者的帮助下问一些关于心脏的问题，她得到了这样的答案。

上述事件发生后，相关智能扬声器开发商回应称:“该设备可能会从维基百科下载与心脏相关的恶意文章，任何人都可以自由编辑，并导致这一结果。”上述护士说，经过搜查，没有发现这样的物品。

这不是该品牌的人工智能产品第一次遭遇“事故”。此前，有报道称该品牌的智能语音助手发出了可怕的笑声，并拒绝听从用户的指示。

上述关于智能扬声器的故事并不是一个孤立的案例，科幻电影中人工智能对抗人类的场景似乎正一步步步入现实。在人工智能时代，当技术革命开始冲击社会道德时，人工智能的道德边界在哪里？谁应该对人工智能负责？

为了解决这些问题，Vision Technology在Be正式成立了人工智能治理研究所，旨在就全球人工智能治理的共同问题与社会各界进行沟通，与专家学者进行研究，共同促进人工智能的健康发展。Defiance Technology的联合创始人兼首席执行官殷琦用四句话表达了他倡导人工智能治理的决心:“理性关注、深入研究、建设性讨论和不懈行动。”

人工智能治理事件揭示的三种挑战

根据人工智能治理研究所的说法，在人工智能发展的历史上，已经出现了十次人工智能治理的标志性事件。

例如，2017年，斯坦福大学发表在《人格与社会心理学》上的一项研究引起了广泛的社会争议。这项研究基于美国约会网站上的35000多张男女头像，使用深层神经网络从图像中提取特征，并使用大量数据让计算机学会识别人们的性取向。

这项研究的争议点是，一旦这项技术普及，配偶一方将使用这项技术来调查他/她是否被欺骗，青少年将使用这项算法来识别他们同龄人的性取向，但更难以想象的是，由于识别某些特定群体而引起的争议。

人工智能治理事件引发的争议也已进入2020年。2020年1月，在萨里大学组织的一个多学科研究项目中，研究人员使用了一种叫做dabus的人工智能。在研究过程中，达布斯开创了两个独特而有用的想法:第一个是一种新的固定饮料的装置；第二是帮助搜救队找到目标的信号设备。

当研究人员为dabus申请专利成果时，他们被欧盟专利局拒绝，理由是欧盟专利申请中指定的发明人必须是人，而不是机器。萨里大学的研究人员强烈反对这一决定，认为因为没有人类发明者而拒绝授予发明者所有权将成为“人类伟大成就的新时代”的主要障碍。

此外，上述智能扬声器建议其所有者自杀，人工智能变脸应用引发隐私纠纷，“监控头环”进入校园引发纠纷，人工智能可能引发部门人员失业风险等事件也被列入十大人工智能治理事件之列。

人工智能的道德边界在哪里，如何判断责任人，当人工智能触及到用户隐私时，是对抗还是妥协，如何从事后补救转变为事前预防，如何从个案讨论转变为基于规则等。正在成为业界密切关注的话题。

"人工智能可能是人类的终结者."无视科学技术，霍金的预言被《证券日报》记者引用。在过去的十年里，随着人工智能从理论走向工业化，迎来了前所未有的发展机遇，人工智能也对数据使用、隐私保护、社会伦理和人类生活的其他方面提出了新的挑战。

探索人工智能向好的方向发展

然而，从目前的市场环境来看，这些在人工智能发展过程中产生的风险和挑战可能不是一个企业、一个机构、一个行业甚至一个国家能够克服的。

“这需要更多的跨学科合作。”复旦大学生物医学伦理研究中心和应用伦理研究中心主任王国玉教授认为，人工智能伦理源于人们对人工智能技术风险的恐惧和担忧。人工智能的伦理不是一个单一的技术问题，也不是一个算法问题，而是技术系统与人类社会生活系统之间的相互作用。人工智能伦理学应该从可能性推测走向可行性探索。

在谈到人工智能治理研究所的初衷时，科技界对《证券日报》记者表示，该研究所希望各界理性关注人工智能事件，深入研究事件背后的问题。只有通过各行各业的建设性讨论，人工智能才能付诸实践。

这不是科学技术第一次在人工智能的健康发展中发挥作用。此前，公司还率先发布了伦理指引，从合法性、人工监管、技术可靠性和安全性、公平性和多样性、责任性和及时纠正、数据安全和隐私保护六个维度明确规定了人工智能的正确有序发展，同时给出了相应的干预措施或指导意见，确保人工智能在可控范围内的可持续发展。迪法恩科技还成立了一个人工智能伦理委员会，与各方讨论与人工智能治理相关的共同问题。

“纵观历史发展，我们必须承认，人工智能技术正在改变世界，重塑人类社会。每个社会热点争议背后都有一个关系到每个人切身利益的重大问题。”无视科技的召唤，“行则常远，行则善，行则胜于言。”事实越来越清楚，蔑视要求每个人都参与讨论，并为技术的发展贡献自己的想法和意见。”

(编辑上官门罗)