人脸识别侵犯肖像权？大数据杀熟如何解决？自动驾驶事故谁来负责？机器是否会全面替代人类工作？

全球人工智能发展已进入跨界融合、人机协同、群智开放的新阶段，正在深刻改变人类社会生活。上述这些曾引发争议、被广泛讨论的问题，你是否也曾担心？

“我们有责任确保人工智能安全、可靠与可控，从基础研发到应用都需要合乎伦理。”7月10日，上海交通大学人工智能研究院首席顾问李仁涵在2020世界人工智能大会上表示。

2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则—发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则，进一步推动全球人工智能治理合作。

为促进新一代人工智能健康发展，更好协调发展与治理的关系，2020年7月10日，世界人工智能大会第二届治理论坛以“发展负责任的人工智能”为主题，共同探讨技术+制度的人工智能治理综合解决方案。

清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜在论坛上表示，中国在人工智能应用层面发展蓬勃，仅次于美国，但在发展背后也存在一些值得高度关注的风险，比如隐私保护、算法歧视、责任分担等。

薛澜指出，中国人工智能治理面临的主要挑战就是数据治理。现有的治理体系，对数据的权属和使用方面比较清晰的规定目前还不够完善，数据和隐私保护的问题也比较突出。

此外，薛澜表示，另一个挑战在于算法争议。目前对算法的监督能力非常薄弱，同时，在企业滥用算法的时候，有可能会导致公众利益受到损害。

“人工智能时代，平台经济垄断问题的性质和影响已经发生变化了。现有的治理体系主体之间的权责划分，和原来传统的模式发生了重大变化，需要重新探讨。”薛澜指出，针对某个客户，平台企业可以将其细分成一个一个独立的个体精准施策，使得消费者的搜寻行为受到很大限制。

那么，未来中国人工智能治理应怎么样发展？

薛澜表示，首先国家层面要加强基础研究，降低人工智能技术本身带来的不确定性。降低技术风险。

其次，社会组织、行业组织等要建立多元共治的人工智能伦理治理体系。

同时，薛澜建议把数据和算法作为当前重点治理的对象，加强数据共享的机制、数据的权属包括、隐私保护等方面规则。

薛澜指出，要结合具体应用场景来规范人工智能的伦理，在讨论一般性规则的同时，也要加强和应用场景的有机结合。

旷视联合创始人兼首席执行官印奇也表示，只有更多的企业从实践角度提出更好的问题，才能让行业专家、教授们和宏观研究的学者们有更好的牵引和更实际问题的落地。

印奇同时表示，人工智能应边发展边治理，从企业发展的角度来看，负责任的AI就是可持续发展的AI。

据了解，此次论坛上，上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组正式成立。

据李仁涵介绍，工作组由科学家、法学家、伦理专家和企业代表组成，主要职能是加强人工智能治理相关研究，促进国际交流参与全球人工智能治理合作，就人工智能立法、伦理规范、标准评估等提出建议，推进人工智能治理原则落地落实。

同时，上述专家委员会还发布了“协同落实人工智能治理原则的行动建议”（简称上海AI治理协同行动9条），行动建议的主要内容为“一平台、四工作、四体系”建设。据了解，这是国内首次提出系统落实国家人工智能治理原则的行动建议，将为进一步推进人工智能治理工作提供参考。

“一个平台”，即构建全球合作网络和交流平台，推动形成全球人工智能治理研究和协作共同体，汲取全球多元文化智慧，为解决相关问题提供解决方案。

“四工作”是推进AI治理标准规范的制定、推动建立行业自律、总结推出最佳实践、推动安全可信技术研发。

“四体系”是致力于建立人工智能治理的评估体系、监管体系、人才体系、保障体系。

华东政法大学教授、国家新一代人工智能治理专业委员会委员高奇琦表示，希望上述行动建议可以做到细化和完善伦理规范、技术标准和法律体系，同时通过一些技术标准，特别是一些未来可能的立法实践把原则逐步落地。

“负责任的人工智能是可能的，它以负责任的人和负责任的行为为前提。”复旦大学应用伦理学研究中心主任王国豫表示，人工智能是一个技术系统，负责任的治理不仅仅是工程师和科学家的事情，也是每一个人的事情。