新疆都市报 > 科技 > 智能 >

AI大毒瘤:96%的Deepfakes视频涉及色情

发布时间:2019-10-15 21:08来源: 网络整理

Deepfakes 已经让“眼见为实”成为过去;至少在视频方面是如此。

近日,Deeptrace 公司发布了一份关于 Deepfakes 现状的报告,分享了迄今为止人们对 Deepfakes 最全面的了解以及其对现实世界的影响。

Deeptrace 是一家位于阿姆斯特丹的网络安全公司,自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道:

无论是视频音频,还是文本,我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。

以下是雷锋网对这份报告的整理:

自 2017 年晚些时候出现以来,Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果,以及对社会的消极影响而广为人知。

然而,Deepfakes 在今年的发展尤其迅猛。报告数据显示,今年网络上 Deepfakes 视频的数量迅速增长,截至目前为 14678 个,是去年 12 月份(7964 个)的一倍。

在所有的 Deepfakes 视频中,绝大多数视频都涉及色情内容,只有极少一部分视频属于非色情内容,两者的比例分别为 96% 和 4%;而且,在最受欢迎的四大色情网站上(2018 年至今),关于 Deepfakes 的视频观众已经超过 1.3 亿人。

不过,值得注意的是,非色情的 Deepfakes 视频也越来越受欢迎。

具体到受害人(被换脸的目标)的性别、国籍和职业等方面,这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计:

报告显示,在色情网站的 Deepfakes 视频中,女性是唯一的受害者;而在 YouTube 上的 Deepfakes 视频中,女性受害者的比例为 39%,男性受害者的比例为 61%。

国籍层面,YouTube 上以美国、英国、加拿大等西方国家人物为目标的 Deepfakes 视频高达 90%;在色情 Deepfakes 视频方面,美英加三国的女性受害者加起来占总数的一半;但韩国的受害女性(大多是 K-pop 歌手)高达四分之一。

在色情网站上的 Deepfakes 中,受害人的职业也受到关注。只有 1% 的受害人从事新闻与媒体行业,剩下 99% 均来自娱乐业。在 YouTube 上,受害者的职业则更加多元,但娱乐业的人物仍占据大多数,少部分受害人为媒体人、政客和企业家。

Deepfakes 的商业化

2017 年 11 月 2 日,一名 Reddit 用户创造了 Deepfakes,随后这项技术传遍全球。现在,随着相关论坛、工具和服务的出现,Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力,它们为换脸视频创作者提供了探讨交流的平台,也为创作者之间的合作提供了便利。

Deeptrace 的报告发现,目前,包括 Reddit、4chan、8chan、Voat 在内,关于 Deepfakes 视频创作的社区和论坛有 20 个;其中,有 13 个论坛披露了自己的用户数量,总人数大概在 10 万左右;在这 10 万个用户当中,有 4000 多个用户拥有特权。

Deepfakes 的商业化不仅体现在社区和论坛上,还有新的电脑 App 和服务。不过,就电脑 App 而言,需要使用者具有编程知识以及强大的图形处理器;但由于“手把手教学”式的使用指南的问世,这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务,费用则取决于视频的使用目的以及制作的难度。

Deepfakes 的危害和影响

波士顿大学法学教授 Danielle Citron 曾表示,“Deepfakes 已经成为了攻击女性的武器。"

这是 Deepfakes 最大的危害之一——Deefakes 色情视频里的受害者大多是英美两国的女演员,以及韩国的女歌星,出现频率最高的十位人物(雷锋网按:为了保护这些女性,该报告并没有透露她们的姓名)的总观看人数超过 3000 万;其中出现频率最高的为英国的一位女演员,她一共出现在 257 个 Deepfakes 色情视频中。

Deepfakes 技术在政治方面的影响也不容忽视。CNAS 技术与国家安全项目主任 Paul Scharre 曾警告:

Deepfakes 具有极大的破坏性,利用它来操控选举只是时间问题。

2018 年,加蓬(非洲中西部国家)总统 Ali Bongo 在公众视野中消失了数月,他的健康状况备受关注;为了打消外界图谋不轨的猜测,政府公布了一段 Ali Bongo 录制的新年致辞的视频。然而,Ali Bongo 不同寻常的“出场方式”让外界更加怀疑,军方甚至发动了兵变。实际上,这段视频为 Deepfakes 合成;Ali Bongo 早在几个月前就患了严重的中风。