导语：5月21日，太和智库在京主办“中国人工智能伦理与治理网络构建”研讨会，来自世界经济论坛、剑桥大学、耶鲁大学、香港中文大学、香港科技大学、中科院、北京大学、清华大学、谷歌、微软、华为、亚马逊等机构的近30位专家参会，围绕人工智能伦理、中国人工智能治理网络搭建、如何构建全球人工智能治理体系等问题进行了探讨（人工智能以下简称“AI”）。华盛顿邮报、英国金融时报、今日俄罗斯、环球时报、人民网、中国网、环球网、每日经济新闻、香港大公报、香港明报、香港中评社等中外媒体与会并对参会嘉宾进行了专访。
1940年科幻作家艾西莫夫提出机器人三定律，“AI究竟是天使还是恶魔，如何加以约束”成为最受关注的AI伦理话题。AI的发展给全球化和世界政治经济进程带来多重影响，促进了科技、数据、网络、信息等领域进步，但也很有可能导致新的全球问题出现。
亚马逊AWS首席云计算技术顾问费良宏提出了AI十大风险，包括：加剧对体力劳动者的不公平，从而导致社会分化；缺乏透明度；有偏见的数据带来有偏见的算法；拥有算法的公司和个人应该对AI所犯错误承担什么样的责任；人工辅助决策的授权边界在哪里；当把武器发射按钮交给AI时，如何规范和约束其对人类整体的潜在危害；互联网科技公司通过掌握算法、计算能力和数据而掌握了AI发展的趋势，会有何种隐患；人类如何与超越自己的超智能共处；图片、视频都能伪造，当看到、听到、观察到的一切都变得不可靠时怎么办；黑客算法泛滥会对AI时代社会产生怎样的影响。
中国人民大学国际关系学院教授王义桅指出，AI实际上是在重新定义“人”，会造成人类的不平等发展和阶层分化。
AI对人类意味着颠覆和挑战，不仅在技术层面，对现有的法律、社会结构、协同方式、工作方式、职业、教育、军事等社会每一个层面均产生巨大影响。AI可能引发新的全球焦虑、对国际安全和全球治理构成双重挑战。此外，AI本身还可能存在数据隐忧、透明度甚至军事威胁等问题。
太和智库欧洲中心主任、高级研究员托斯登·耶里尼克（Thorsten Jelinek）指出，AI将影响人类发展轨迹，为避免不可逆的灾难，有必要进行跨国的伦理治理。由于人工智能本身的“跨界”属性，需要鼓励更多利益相关者以“软治理”的方式参与，即提供治理框架，在治理过程中不断根据实际情况进行动态调整，以克服政府治理存在的滞后性。同时必须看到，软治理难以弥合国家或地区间的不同点，如在AI伦理的文化差异方面，美国倾向于谈利益和个人价值的实现，欧洲更关注社会融合和隐私保护的问题，而在中国，对和谐的强调则是讨论的重点。
正因如此，AI各利益攸关方尤其是主权国家必须合作参与AI时代的全球治理，并寻求有效路径，以期更好地利用AI服务于经济和社会发展，并探索全球问题的解决之道。鉴此，本次研讨会主席、耶鲁大学生物伦理学中心科技与伦理学科主任温德尔·瓦拉赫（Wendell Wallach）教授提议建立AI全球治理架构并成立相关委员会。
清华大学苏世民书院院长薛澜教授介绍，中国在2019年2月已经成立了“新一代人工智能治理专业委员会”，正致力于加快在AI领域中的法律、伦理、社会、标准的研究，鼓励国际合作、提供政策支持，他呼吁尽快出台对于AI伦理的全球化治理原则。
中国科学院自动化研究所类脑智能研究中心副主任曾毅教授认为，“由于文化、地域、领域的差异，很难也没有必要构建统一的AI伦理准则。但不同国家、不同组织及不同层面AI伦理彼此之间是互补的。没有任何一个国家、组织能够全面并准确的预知人工智能的未来。因此AI治理需要各方互补，而不是竞争，需形成国际协作。”这得到了多数与会者的认可。
对于全球AI治理的一般路径，专家们则各抒己见。曾毅教授指出，AI伦理治理要追寻技术化的解决方法。他认为具有一定程度“自我”的人工智能并不危险，恰恰可能是实现有益的人工智能最安全的途径。因为一定程度的“自我”使得人工智能能够换位思考，并基于自身经验真正理解与人类的交互和可能存在的风险，没有“自我”的人工智能可能才最危险的。他还指出，AI需要借鉴生物演化的机制，构建利他主义及其演化的计算模型，使得AI能够逐步涌现出更多的利他行为。应让机器人通过自我经验与思维揣测实现具有道德和伦理的AI模型，实现与人类价值观的校准，而不是只通过内置规则实现，以此建立更加安全、具有伦理道德的人工智能。
来自香港科技大学的吴德恺教授则认为，人们需要“在不同的文化之间找到一些普适性的价值，使用AI的过程当中要学会开放，让AI能接受不同的文化模式。”
微软亚洲研究院副院长潘天佑则建议AI全球治理要借助“教育的力量”，并介绍了过去六年中微软和中国教育部进行国际合作，重新设计一门大学课程，通过“AI+人力资源”的方式，让学生学会AI化式的思考，进而实现AI和人类间的共生。
来自谷歌的张弘表示，谷歌的AI开发原则是AI应该使得社会从中受益，而不产生或加深偏见，特别是对一些具有敏感特征（如国籍，种族、性别等）的群体。AI应该对人负责。
在研讨会上，中国在AI技术发展和治理受到关注。尤其是随着2017年6月国务院《新一代人工智能发展规划》、工信部《促进新一代人工智能产业发展三年行动计划（2018-2020年）》相继印发，从政策层面引导确定了AI发展的目标，包括开发、协作、科研、促进高端AI经济的发展，建立一个安全、便捷地社会，同时在AI建设方面实现军民合作。
中国的AI发展优势是国家重视、科研鼓励、发展重点明晰、人才和资本相对集中。中国成立了超过1000多家AI公司，数量仅次于美国，北京AI公司数量排全球城市第一位，旧金山排在第二位。从2013年到2018年，大量风险资本进入了这一领域，全球60%的AI投资发生在中国。
中国的AI发展劣势是基础研究特别是算法研究薄弱、产学结合有待加强、公众及媒体对于AI发展认识不足。例如近期世界知识产权组织（WIPO）发布《技术趋势2019：AI》报告称，在AI专利申请最多的20家公司中，唯一一家中国企业不是BAT，而是中国国家电网，这也颠覆了很多人的认知。
同时，针对西方国家对中国发展“强竞争性”AI政策的误解，薛澜和曾毅都指出，虽然中国AI政策目标非常宏大，但其发展与治理理念都是以“合”为贵，更强调与各国的共建、共享、共赢，并非要谋求独占地位或取而代之。
近期，科技领域的反全球化声音有所提升。而太和智库本次研讨会汇集中美欧专家学者，在热烈、深刻的思想碰撞中达成了“AI全球治理需要各国的参与及努力”的可贵共识，实现了“在中国建立一个讨论AI伦理的群体，并将其上升到国际层面”的目标。本次会议形成的机制和平台，未来也将持续发挥沟通、研讨、传播等作用，为全球AI治理提供各类解决方案。今年9月召开的第三届太和文明论坛（TCF）将进一步探讨并推进相关机制落地。
© 2013-2021 Taihe Institute (TI) . All rights reserved. Taihe Institute (TI) . 太和智库咨询（北京）有限公司 京ICP备16023694号-1 法律顾问：中伦文德律师事务所
