研究指出：谷歌AI视频分类器极易被对抗图像欺骗

据外媒报道，近段时间，作为全球最强大的科技公司之一，谷歌的日子并不好过，包括《卫报》在内的250个公司及机构宣布停止在谷歌平台投放广告，原因是它们的广告中出现了极端组织、种族歧视、反犹太主义等画面。

对此，谷歌开始在视频内容认证工作中投放越来越多的AI资源，但现在的问题的是，这家巨头公司现用的算法很有可能还无法胜任这项任务。

华盛顿大学最近发表的一份研究调查就明确地指出了这一问题。研究团队对谷歌面向客户推出的视频内容自动分类Cloud Video Intelligence API进行了测试。这套API由深度神经网络驱动的系统虽然在应对常规视频上表现非常好，但它却非常容易被对抗图像(adversarial images)糊弄过去。

华盛顿大学研究人员指出，这家公司的API可以给测试视频的对象标示出诸如“动物”、“野生动物”、“公园”、“大自然”、“游客”等标签，但当他们向视频中插入一张汽车的图片之后，API此时给出的标签则就可能变成“奥迪”。据悉，出现这种情况的几率高达98%。

研究人员表示，这意味着人们可以通过向某段非法视频插入良性图片来达到绕过视频过滤系统的目的。

现在，像谷歌、Facebook、Twitter等科技感公司都在开始利用AI过滤系统来帮助他们审核上传至其平台的内容。然而，AI不可能完美，它们也会经常犯错、被骗。所以这些公司还需要作出更大的努力才能避免像现在这种情况的发生。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。