新疆都市报 > 科技 > 智能 >

社交软件Instagram推反欺凌工具可智能提醒不当言

发布时间:2019-07-10 16:58来源: 网络整理

社交软件Instagram因为一直没有采取措施打击网络欺凌而多次受到抨击,不过该公司于7月8日回应称,他们即将推出新的反欺凌工具,希望可以帮助遏制该平台上的网络欺凌行为。

据英国广播公司(BBC)7月8日报道,Instagram表示,这款新工具采用人工智能的识别技术,将在用户发布不当评论时进行提醒。例如,如果用户输入评论“你真是又难看又愚蠢”,发布时就会出现提示“你确定要发送这句话吗?(点击此处了解更多)”。如果用户点击“了解更多”,就会出现一条系统通知:“我们正在呼吁人们对那些可能造成网络欺凌的评论慎重。”

虽然用户仍然可以忽略这条信息,并坚持发布原来的评论,但Instagram基于之前的测试结果表示,“我们发现,一旦有机会反思,有些人会选择撤销原评论,或者更改成不那么伤人的言论。”

Instagram向BBC表示,该工具首先面向使用英语的用户推出,但计划最终在全球范围内推广。该公司同时表示,他们将很快推出一款名为“限制”(Restrict)的附加工具,旨在帮助青少年过滤侮辱性言论,而无需屏蔽他人。

Instagram的首席执行官亚当·莫塞里(Adam Mosseri)表示,“我们从年轻人那里听说,他们不愿意屏蔽、取关或举报欺凌者,因为这样做可能会使他们变本加厉,尤其是当他们与欺凌者在现实生活中也有接触时。”

“而且,如果屏蔽或取关了欺凌者,他们的网络欺凌行为也很难留下证据。”莫塞里补充说。

新的附加工具将有望解决这个问题,一旦用户受到“限制”,他们的评论只有自己能看见。重要的是,欺凌者不会知道自己已经被限制了。

“你也可以通过批准评论的方式,使受限制者的评论对其他人可见。” 莫塞里解释道。

“受限制者将无法看见你在Instagram上发布的内容,也不知道你是否阅读了他们的私信。”

莫塞里表示,“我们可以做出更多努力来预防欺凌事件在Instagram上发生,也可以努力让被欺凌者为自己挺身而出。”

“这两款工具基于人们对Instagram上欺凌现象和应对方式的深刻理解,但它们只是长远的反欺凌道路上的两小步。”

根据皮尤研究中心2018年的一项研究,约59%的美国青少年曾在网上受到欺凌或骚扰。反欺凌组织Ditch the Label于2017年发现,在英国接受调查的12至20岁遭遇过网上欺凌的青少年中,有42%的人在Instagram上经历过这种情况。

今年4月,英国政府发布了《网络危害白皮书》(Online harm white paper),旨在对科技公司加强管理和控制。它建议建立一个独立的监管机构,指导科技公司应对包括网络欺凌在内的各种虐待行为。

人们对这份白皮书褒贬不一,一些人质疑它的有效性,并担心其过于小题大做。

在Facebook公司最近召开的开发者大会上,莫塞里表示,Instagram作为该公司旗下的社交平台,会把解决欺凌问题作为一个重点。

亚历克斯·霍姆斯(Alex Holmes)是戴安娜奖反欺凌项目的副总裁,同时长期倡导反欺凌,他表示:“Instagram新推出的反欺凌工具真的很令人鼓舞。”

该组织已经从Facebook公司获得了一些资金,用于在学校落实现实生活中的反欺凌举措。霍姆斯告诉BBC,他认为社交媒体公司还可以做出更大的努力,积极地教导用户言行举止要得体。