人工智能的崛起如何管理？八项原则让人工智能发展负起责任

编者按：本文来自“科技日报”。36氪经授权转载。原标题为《八项原则让人工智能发展负起责任》。

最近一段时间，人们关于人工智能的讨论可真不少——换脸、反换脸技术斗得不可开交；无人驾驶引发事故如何追责让人忧心忡忡；智能机器人该不该有公民身份也已经被反复争论了好几轮。

在人工智能迅速发展，深刻改变人类社会生活、改变世界的背景下，我们在不断寻求人工智能效益最大化时，如何应对其伦理和监管问题，成为新的焦点。

6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》），提出了人工智能治理的框架和行动指南。

清华大学苏世民书院院长，国家新一代人工智能治理专业委员会主任薛澜参与了《治理原则》制定和出台的全过程，他在接受科技日报记者采访时表示，《治理原则》旨在更好地协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体。

《治理原则》突出了发展负责任的人工智能这一主题。薛澜说，这里的“负责任”既有人工智能研发者，也有使用者、管理者等其他相关方，各方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范，防范利用人工智能进行非法活动。

针对人工智能技术更迭快、老政策解决不了新问题的现状，《治理原则》推出了“敏捷治理”。“这是一个全新的思路”，中科院自动化所研究员、国家新一代人工智能治理专业委员会委员曾毅向科技日报记者表示，《治理原则》在推动人工智能创新发展、有序发展的同时，更应该具有前瞻性和预判性眼光，这样才能及时发现和解决可能引发的未知风险。

在《治理原则》中，尊重隐私被放在一个十分重要的位置。要求充分保障个人的知情权和选择权的同时，在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。曾毅表示，此次在《治理原则》中首提“个人数据授权撤销机制”。个人有权在同意个人信息授权后，随时撤销授权，这在全世界也属于领先。他认为，人工智能应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。

《治理原则》的出台，为的是推动我国人工智能行业的自律，凝聚全社会共识，促进人工智能健康发展，所以“共治共管”的理念贯穿始终。早在《治理原则》起草前，科学技术部就在官方网站上发布消息，征求社会各界的意见。

“我们征集到了百余条十分有价值的意见，其中一些意见被采纳，还有许多提意见的人员被请来与我们一起探讨”，薛澜向科技日报记者介绍说。

一位中国中医科学院的专家提出以医学伦理为鉴确定人工智能的监管思路，一位南开大学的哲学专家建议以传统文化中的哲学思路倡导人工智能向善的理念等等，这些意见和建议都被国家新一代人工智能治理专业委员会的专家们广泛听取。

薛澜表示，人工智能的治理已经不是某个地区或者国家的问题，而是需要全球协同，中国的专家们盼着与全世界的科学家一起建立共识、协同发展，为促进人机和谐，服务人类文明进步共同努力。