受人社部委托，中国就业培训技术指导中心近期公布了10个拟新增职业、8个拟新增工种。其中，“网络与信息安全管理员”职业下拟增设“互联网信息审核员”工种。

可见，互联网内容安全在现在这个信息化时代是至关重要的！那么问题来了，为什么要重视内容安全？内容安全的风险都有哪些？内容安全相关从业者应该具备哪些素质？人工智能可否代替人工审核？今天，我们将对这些问题一一解答。

为什么要重视内容安全？

随着信息技术的发展和智能终端的普及，互联网内容从文字、图片、音频，到视频、直播，展现形式层出不穷，内容主体也在不断丰富。数量庞大、形态多样、主体多元的互联网内容行业，不可避免地出现了鱼龙混杂的局面。低俗、暴恐、抄袭……种种问题交织在一起，严重破坏了网络生态。

为了约束内容乱象、规范平台运营，相关监管部门和行业协会近年来频频出手整治，发布多部法律法规、审核细则。这些政策法规的出台，有助于划清行业底线，但对广大互联网内容从业者来说，他们仍需要一个更加细化的解读，从而更好地理解政策、指导工作。

内容安全从业者应当具备的基本素质？

业内专家认为，内容风控产业具有“人才密集型”特质。目前，人工智能对内容的辨别还停留在关键词命中等较为浅层的程度，百分之八十以上的内容风险依然依赖于人工研判，因此需要大量优质的风控专业人员，具备高水平意识和能力自如应对各类违规内容及其形态变形。

细化来说，一名优秀的内容风控专业人员应具备以下几点特质：

1.思想站位高、视野格局宽广

风控专业人员站在与大量有害信息博弈的第一线，因此首先必须具备辨别有害信息的综合能力。其把控的尺度不能以个人接受度为标准，而要站在国家、社会和网民的角度，甄别信息的有害程度。这要求足够的思想高度、足够的格局和眼界，去理解政策制定者的初衷。唯此，才能在工作中把握正确导向、做出正确判断。

2.政策转化为实操尺度的能力

政策法规往往是极度精炼和概括的，在实际的风险研判中，需要在充分理解政策精神的基础上，将其转化为更细化的、可以直接指导实操的尺度规则。

例如，“短视频100条”新规要求，宣扬不良、消极颓废的人生观、世界观和价值观的内容不宜传播。风控专业人员首先要辨别何种表现属于以上范畴，有具象化概念之后，再针不同内容种类和不同平台的特性，将其转化为切实可用的研判规则。

3.丰富的知识储备

目前，业内对风控专业人员的工作内容还没有做垂直领域的细分，这就意味着一个风控专业人员每天都会接触到文史、经济、军事、政治等各领域的信息，并对其做出准确研判。若对某一历史事件不熟悉、对某一时政热点不了解，都有可能造成严重工作事故。诸如此类知识的细致和全面程度，不仅对于风控专业人员本身是很大挑战，对于内容平台的风控制度、风控专业人员培训体系，都有极高的要求。

此外，内容风控人员还应当具有强有力的执行能力和细心、耐心的性格。

以上各项能力，除风控专业人员自我把控外，平台自上而下的风控培训体系也担负着重要责任。而现实情况却不容乐观。综观各大互联网平台，一方面风控制度与培训亟待完善，另一方面，鲜少能够招到满足以上五点特质的风控人员。优质风控专业人员供需极不平衡，存在巨大缺口。

人工智能能否替代人工审核？

答案是不能。在内容风控中，人工智能技术扮演着越来越重要的角色，自然语言处理、图像识别、声纹识别等技术已经越来越多地得到了运用。但目前来看，人工智能技术主要依赖深度学习算法，不具备演绎推理能力。对于各形态大量边界不明确的内容，人工智能还无法对其合规性作出判断，必须依赖人工研判。

诚然，针对图文音视多种类型的内容应用技术手段进行智能审核内容把控，是人工研判的重要辅助工具，可以节省人力成本，提高信息监管和处置效率，但在目前以及未来很长一段时间内，人工智能技术还不能替代人工在内容风险防控中的作用。