MIT技术评论：Facebook想用AI消除仇恨言论，首先要解决这3个问题

• 本文来自微信公众号【AI商业报道】
  

高层速读

关键信息：扎克伯格在国会听证时表示，Facebook将越来越依赖人工智能来捕捉在该平台上传播的仇恨言论。但要做到这一点并不容易，原因有三：文字含义巨大；利用AI工具逃避AI检测；假视频入局加大难度。

关键数据：目前Facebook有15000名审核员，到年底预计增至20000人。

关键意义：人工智能研究人员已经开始着手解决假新闻和假视频识别问题，但建立一个这样的系统比较困难。

马克•扎克伯格在美国国会听证时表示，Facebook将越来越依赖人工智能来捕捉在该平台上传播的仇恨言论。

“我乐观地认为，在5到10年的时间里，我们将会有一些人工智能工具，能够在不同类型内容的语言差异中获得更准确的信息，”这位Facebook的首席执行官说。他被要求在剑桥分析公司盗用8700万用户个人数据的丑闻后作证。

扎克伯格表示，Facebook已经雇佣了15,000名审核员来筛选和删除攻击性内容，并计划在今年年底前再招聘5,000名审核员。但现在，审核员只能操作Facebook用户已经标记的攻击性帖子，相反，使用人工智能来识别潜在的攻击性内容不仅速度更快，而且更容易删除不良内容。

但要做到这一点并不容易，MIT技术评论说道，原因有三个：

文字虽短，含义巨大

语言理解对人工智能来说仍然是一个巨大的挑战。计算机捕捉关键字或短语对文本的情感进行分类是很容易的，但理解文章的意义需要更深入的了解这个世界。

语言能成为一种强大而复杂的交流方式，在于它依赖于常识和知识，我们可以将大量的信息打包成几个关键词，而AI无法完全识别。

“比如说假新闻，这将会非常困难” 纽约大学教授 Ernest Davis说道，他是研究计算机常识推理的专家，“因为假新闻往往是半真半假的。”

利用AI工具逃避AI检测

“即使在自然语言理解方面取得了进展，仇恨和错误信息的提供者也可以采用一些相同的工具来逃避检测。”Primer公司首席执行官Sean Gourley警告说，该公司利用人工智能技术，为美国情报机构生成报告。

最近在麻省理工学院的一次科技评论活动上， Gourley说，人工智能也将会不可避免地被用于大规模生产有针对性和优化过的假新闻。

假视频入局，难度加大

事实上，我们已经处在了一个虚假新闻时代的开始。研究人员已经展示了由机器学习合成的视频和音频，包括让政客们发表从未发生过的演讲。以及软件合成虚假色情视频。

人工智能研究人员已经开始着手解决这个问题，但这样的假视频对人工智能来说尤其困难。它们是通过两个神经网络来产生的，它们相互竞争产生和发现假图像。这个过程依赖于欺骗一个网络，让他们认为某件事是真实的。所以建立一个能够捕捉到假新闻和假视频的系统目前比较困难。

• 微信内搜索并关注公众号[AI商业报道]，获得人工智能领域第一手商业资讯
  

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。