是时候重视Deepfake了，正在被改变的“真相”

本文是为新京报撰写的专栏文章

中国的双十一狂欢刚刚落幕，大洋彼岸的推特就抢走了来自科技圈的关注度、11月12日，推特正式发布首个反 Deepfake 策略草案。该公司表示，如果 Deepfake 内容威胁到某人的人身安全或可能造成严重伤害，他们会将该内容从推特上删除。目前，推特已开始就此项草案向公众征集意见。

在当下的媒体相关报道中，关于 Deepfake 最容易被提到的是前段时间饱受热议的某款换脸软件。这款应用一经上线就引爆了社交网络，将换脸的门槛拉到新低，但同时也引发严重的隐私争议。人们担心运营平台会在用户大玩 Deepfake 的时候趁机非法收集用户面部信息，更担心这些被收集的面部信息会被滥用，抑或被黑客盗用。

但推特这次推出的反 Deepfake 策略草案所涉及的涵盖面要大不少，它不单是要打击非法“换脸”，还要打击各种伪造内容，包括利用技术对照片、视频和音频的伪造，未来，那些对某人的心理健康、隐私、尊严、财产或其他方面造成威胁的 Deepfake 内容，都有可能遭到删除。

Deepfake 是个新词，其即便在互联网百科词条里都还没有被来得及收入，它实际上是个组合词，即“深度学习”和“假”的组合，顾名思义，作为一种人工智能基础的人物图像合成技术，它可以通过机器深度学习，将现有的图像和视频组合并叠加成新的图像和视频。这些内容看起来就像真的一样，但却从来没有发生过。比如在一个场景或新闻事件中，通过 Deepfake 把某个人加进去，使他说一些话或者做一些动作。

在互联网上，类似 Deepfake 的内容实际上早已有之，比如各种PS作品，各种剪辑作品，直到一些色情网站上的换脸内容，再到上次的实时换脸APP，它们在本质上还属于“恶搞”或“娱乐”，负面影响虽然也有，但因其并不难识别，恶果总归有限。

事实上，即便类似今天 Deepfake 的技术效果，在以前也是有的，但那都是掌握在大公司手中，应用在大片里，门槛极高，而 Deepfake 的出现，却使“换脸”技术平民化，应用变得极为轻易。

而 Deepfake 真正的危害在于，如果这种技术大行其道，它有可能会颠覆人类千年来所形成的某些“朴素真理”，比如“眼见为实”。当真相被轻易混淆，尤其是当这些真相涉及到某些重要的人物、场景、事件，可以想象将会造成多大的混乱。

就像媒体所报道，几个月前，美国民主党议员南希·佩洛西的一段演讲视频在 Facebook 上疯传。视频中佩洛西的语速被降到了原版的 75% 左右，同时音调也被人为调高，阴阳怪气，宛如醉酒一般，产生了很恶劣的影响。但由于其被定义为恶搞视频，当时 Facebook 拒绝将之下架，然而逼真度能够欺骗过大多数观众甚至专家、亲人的恶搞视频，到底还算不算恶搞视频呢？假设恐怖分子以 Deepfake 制造出假的新闻事件传到网上，以现在的社交网络传播速度，很可能会在还没有被识别出的情况下，就已经引发某些敏感地区的种族仇杀或宗教仇杀。

技术当然是无罪的，但当技术进步有可能超出人类把握能力，有可能对人类生活造成威胁的时候，对技术应用加以防范和管控却也是必要的。实际上，很多国家已经充分的认识到这一点。比如在2018年的世界人工智能大会上，领导人既曾在贺信中指出，在把握好新一代人工智能所带来之发展机遇的同时，要“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”......

在社会治理中，技术进步与与立法能够齐头并进当然是最理想状态，但鉴于立法的慎重性，现实中立法落后于技术进步却是常态。在这种情况下，在类似于 Deepfake 事件中，由处于第一线的企业制定规则加以约束就变得非常必要，推特已经走出了正确的第一步，相信未来各大科技巨头都会有所跟进，而中国的互联网企业也应随时保持高度关注，毕竟技术是没有国界的。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。