响水生活网

人工智能开发的道德边界在哪里?

作者:安生 | 来源:互联网
2019-10-28 08:34:56

   

雷锋网 AI 科技评论按:10 月 17 日至 19 日,由 CCF 主办、苏州工业园区管委会、苏州大学承办的 CNCC 2019 在苏州成功举办。今年大会以「智能+引领社会发展」为主题,选址苏州金鸡湖国际会议中心召开。雷锋网 AI 科技评论将会作为战略合作媒体进行全程跟踪报道。除了 15 场特邀报告外,今年 CNCC 的 79 场技术论坛作为会议的另一大重要组成部分,也是参会者重点关注的内容。其中「人工智能开发的道德边界在哪里?」技术论坛应该是所有论坛当中“战火”最浓的一个,数十位各领域专家齐聚一堂,针对AI伦理问题激烈探讨了整个下午。

“不讲title,激烈思辨”是YOCSEF的特性。YOCSEF,全称为“中国计算机学会青年计算机科技论坛”,它是一个重在以思辨的方式讨论计算机相关产学研等相关问题的论坛。YOCSEF的规矩是,任何参与这个论坛的人都可以发言,而且发言中不讲title,所有人直呼其名,平等发声,因此每次YOCSEF举办活动都会“战火弥漫”,碰撞出智慧的火花。

本次论坛主题为讨论「人工智能开发的道德边界」问题,汇聚了包括从事计算机科学、人工智能、哲学、伦理学、法律等行业的专业人士。各位专家就相应论题,分别从各自专业角度对人工智能伦理问题做了深入探讨。

一、AI 伦理的边界

近年来随着人工智能技术不断在各行各业中得到广泛应用,AI对人类社会的影响可谓是方方面面。例如最近较为火爆的换脸技术产生的数据安全问题、大数据产生的“杀熟”问题、自动驾驶的安全责任问题、人脸识别产生的隐私问题等。

在这诸多问题中,哪些是能做的?哪些是不能做的?以及我们能做到什么程度?这对我们人类来说都是不小的挑战,因为这是我们人类数百万来所面临的全新问题。对这些问题的回答就是为AI伦理划定一个不可逾越的边界。

人工智能开发的道德边界在哪里?

北京大学邓小铁教授

北京大学邓小铁教授在引导发言中提出,任何一项新技术的兴起都会引发一系列的争议,AI也同样不例外。那么当AI技术的应用在人类社会中引发伦理风险时,如何界定AI与人的边界、如何与AI定契约至关重要。他提出AI伦理边界的划分,将不再像以往的伦理道德那样局限在人与人之间,现在则多出了一些维度,还涉及到人与AI、AI与AI之间的伦理边界问题。这对我们来说是全新的思考领域。他同时还指出,我们在与AI制定契约时,需要遵循三大最基本的原则:可执行、可验证和可执法。作为引导发言,邓小铁教授还提出了在与AI交互过程中存在的四个问题:

Code is law。如果代码就是王道,那么我们应该建立怎样一种程序来监管编程人员呢?

谁能代表AI定契约?是AI的制造者,还是AI自身?

AI伦理设计的不可能三角。在AI涉及伦理时,人类的机制如何设计、AI如何执行、市场如何接受?

能否允许AI来制造AI?这个时候人类是否还有能力对AI实施管理和监测?

但紧接着一位来自中南大学的教授便指出邓教授的思考中存在一个漏洞,即事实上我们整个学界对“智能”这个词是什么一直并没有搞清楚,因此也不可能搞清楚人工智能是什么,只有当我们真正弄清“智能”的概念,知道了智能和人类的局限分别是什么,我们才有可能去讨论AI和人类的伦理问题,或者权利和义务问题。在辩论中,几位哲学领域或法律界的人士分别指出了AI伦理边界的以下几个特点:

伦理的时代属性。北京大学副教授吴天岳指出,任何伦理道德都是有时代烙印的,因此尽管目前已经有诸多原则,但我们还需要有历史意识和前瞻意识,以避免我们自己的道德偏见阻碍了未来人类的发展。

道德的边界应该是动态的。天津理工大学罗训教授认为任何治理原则都是不可能是一旦制定永不改变,因为伦理永远在随着时代和地域而变化,因此关于AI伦理应当是动态的,不应当去静态地刻画。

AI伦理中人的属性不可忽视。现有的AI仍然不是一个道德主体,所以目前所讨论的道德边界主要还是针对人类行为边界的界定。

二、人工智能伦理原则

中科院自动化所研究员曾毅作为第二个引导发言者,介绍了当前国内外在人工智能原则上的进展,并针对各国人工智能伦理原则进行了详细分析。

人工智能开发的道德边界在哪里?

中科院自动化所研究员曾毅

据曾毅研究员介绍,目前全世界范围内已经发布的人工智能伦理原则至少有53个,但这些原则没有一个可以覆盖当前人工智能技术所带来的所有问题。以比较全面的《人工智能北京共识》为例,对于“致命武器”、“公平”等并没有涵盖,原因则在于发布者的立场和视角不同,面对的社会问题也不同。