本报记者 马秀岚 张靖超 北京报道

随着科学技术越来越深入到日常生活，颠覆现实生活，科学技术对人类将造成负面影响的担忧和讨论也开始变多，因此也形成了学界和业界的观点碰撞。

近来，关于人工智能技术是否被滥用、边界在哪里等问题的探讨尤其多。同时，《中国经营报》记者注意到，从国外到国内，一些大公司将“科技向善”纳入到企业的使命和愿景中。

在11月11日这天，腾讯更新了其使命与愿景——将“科技向善”纳入了其中。

记者注意到，在此前的11月9日的腾云峰会上，与会的学者与企业高管们就科技向善、AI向善问题进行了探讨。

社科院科学技术和社会研究中心主任段伟文在该峰会上提到，最近关于AI的伦理原则提得越来越多，美国国防部也颁布了可溯源、可控、可信赖的人工智能伦理准则。

段伟文指出，对于技术，人们通常的提法都是——首先要鼓励创新，对于新技术，社会都应该有一种开放和包容的心态。同时，我们也必须严肃地看到技术和应用场景需要的道德规范。“意思就是对于任何技术我们都要包容，都应该接受，这个逻辑不对，并非新事物都是好的。同时要考虑伦理问题。此外，要知道人工智能背后是资本，数据的收集都是资本，没有资本，这些东西寸步难行。”

在最近上映的电影《终结者6》中，导演对于人工智能在未来的形态进行了预言——从未来世界来到现实的机器人，试图对人类行为进行阻止和攻击。

相对于国内人工智能技术中的人脸识别技术在线下一些场景的应用，在国外这一情况则显得相对审慎。人工智能技术未来将何去何从，仍然令人们担心。腾讯AI lab & Robtics X实验室主任张正友则直言道：“现在大家讲的人工智能还不是智能，做人文的人在担心人工智能要毁灭人类，有这些担心的人大可放心，目前的人工智能做的事情是把知识进行转化，其实还没到智能阶段，智能应该是在超越知识的情况下，能够知道怎么去解决问题，所以有时候我觉得不应该担心那么多。”

北京邮电大学人机交互与认知工程实验室主任刘伟也认同了张正友对于目前人工智能所处的发展阶段的看法，他表示：“我接触了一些大公司的项目，实事求是地说，现在的人工智能处于一个很低的层次，还不是那么有价值观、有意向性。算法只是在边界约束条件下起作用，离开环境以后，它就无能为力，而且还能跑偏，所以现在大家对人工智能的看法有点科幻。”

但是张正友也同时指出，一些层面来说，有些担忧是合理的。因为AI作为工具可能会用在其他不好的地方，我们还是要想办法通过立法、通过伦理层面来规范，出现问题后，作为企业应该负起责任，采取行动去处理。

段伟文则认为，当人们讲到创新或者科技跟人文或者是伦理价值的关系的时候，一直以来有两种方式，审慎性原则和风险偏好性原则。但是现在审慎性原则很难实现，大多数企业愿意选择风险偏好性的原则。

“目前的话，我认为可能允许技术往前发展，但底线还是不能突破，底线就是要维持人的尊严，不要将人变为工具。一些企业还是要从社会价值去考虑，去预测技术会对社会产生什么样的影响，尽量提升社会价值。”张正友说道。

在科技向善被越来越多提及的当下，学者们则指出这应该作为企业本应有的担当。段伟文表示：“腾讯作为一个标杆企业，讲科技向善是没有问题的，但是作为企业自身要明白，科技向善不是一个多大的善，而是企业应有的担当。”

中国科学院自动化研究所研究员王飞跃也对这一问题表达了看法，他认为科技向善不是选择，科技向善是必须，企业没有选择是否向善的权利。因为从人类的发展来看，人类能生存发展到今天，是因为选择了向善，所以演化到了今天。

张正友在最后表示，提出这样的说法主要是希望不要给大众造成对技术的恐慌，恐慌会使整个社会对新的技术探索造成影响和压力。“其实我们还需要继续往前推进，但是目前的有些技术确实有些问题。”