原标题：「指数」通过风险预测获取人工智能洞察

　　成功创造出高效的人工智能可能是人类文明史上最重大的事件，也可能是最糟糕的事件。除非我们知道如何准备应对和避免潜在风险，否则人工智能就可能成为人类文明史上最糟糕的发明。

　　因此，想要人工智能能够与人类和谐共处，我们需要警惕危险的存在并找出危险，在实践和管理方面尽可能做到最好，并事先做好充分准备，应对可能出现的任何结果。

　　一、将“信任设计”注入人工智能

　　安永与微软欧洲近期联合开展的一项调查显示，71%%的受访者将人工智能视为高管的一项重要考虑事项，而只有4%的受访者在多个流程中用到了人工智能并执行高级任务。

　　“信任设计”(Trust by Design)能帮助企业将风险优化的思维嵌入人工智能的整个生命周期，通过将风险职能从被动的风险应对升级为强大的、动态的、面向未来的工具来建立信任。如果企业从一开始就将“信任设计”理念注入人工智能系统，就能利用风险预测加速获取人工智能洞察。

　　二、建立用户对人工智能的信任

　　人工智能给技术、道德和社会领域带来了风险和影响，已超出人工决策范畴，涉及技术发展。我们需要建立新的框架来识别、计量和应对人工智能风险——该框架需以现有的治理和控制结构为基础，同时加入新的机制以应对人工智能特有风险。

　　三、量化人工智能风险

　　欲使人工智能充分发挥潜力，企业需要有能力预测和衡量会放大风险和破坏信任的情况。如：

　　技术风险——评估基础技术、技术操作环境和自主性水平；

　　利益相关方影响——考虑人工智能代理的目标和目的，以及对外部和内部用户经济、情感和物理方面的影响，以及声誉、监管和法律风险；

　　控制有效性——考虑是否存在降低人工智能风险的控制及其运行有效性。

　　凭借这三类评分的组合，安永Trusted AI Platform可以计算出人工智能系统设计的剩余风险，计算公式如下：人工智能剩余风险=技术风险X利益相关方影响-控制有效性。

　　四、应对人工智能风险

　　应对人工智能的风险需要使用能够跟上人工智能高速适应性学习能力的创新控制方法。在决定如何应对各项风险时，企业可以采用以下四种策略。这些策略可以单独部署，也可以结合使用。

　　五、监控人工智能风险

　　为了有效地监控人工智能，需建立持续的监控机制以确定人工智能系统按预期运行。人工监督(如人在回路)是人工智能系统的一个重要的风险缓释策略，人工操作最适合应对需要对少量分散信息进行高水平认知分析的短期事件。但人类不善于长时间保持注意力集中，特别是在事故发生率较低的情况下，并且人类可随时处理的信息量有限。而自动化系统，特别是那些人工智能支持的系统，可以克服这些缺点。

　　六、将对人工智能的信任作为竞争优势