谷歌DeepMind推出SynthID工具,能在AI生成的图像中嵌入隐形水印

8月30日消息,为了应对日益增长的 AI 生成图像的问题,谷歌 DeepMind 团队 于北京时间 8 月 30 日推出了一款名为 SynthID 的工具,可以在 AI 生成的图像中嵌入人眼不可见的水印,但可以用专门的人工智能检测工具检测出来,以便于区分真实和虚假的内容。该工具已经在谷歌云平台上向部分客户开放。

SynthID 将在图像的像素中嵌入一个水印,该水印可以抵抗裁剪、缩放等常见的图片编辑操作,只有专门的 AI 检测工具才能识别出来。谷歌 DeepMind 的 CEO Demis Hassabis 表示,这种水印随着 AI 模型的改进,会变得更加隐蔽和强大。

Hassabis 说,SynthID 是为了解决深度伪造(deepfake)等潜在危险的问题而开发的。他认为,在 2024 年美国和英国即将举行大选的背景下,建立 AI 图像识别系统是非常重要的。他还表示,SynthID 的基本思想也可以应用于视频和文本等其他媒体。

目前,SynthID 只能在谷歌云平台上使用,主要针对使用 Vertex AI 平台和 Imagen 图像生成器的客户。Hassabis 希望通过真实场景的测试,让 SynthID 变得更好。然后,谷歌将把它用于更多地方,与更多合作伙伴分享,并提高公众的意识和教育。

Hassabis 说,SynthID 可能会成为一个互联网范围内的标准之一。但他也强调,这只是一个初步尝试,并不是解决深度伪造问题的万能药。

除谷歌外,还有许多其他公司也在致力于建立 AI 保护和安全系统。例如,Meta、OpenAI 等公司正在使用一种名为 C2PA 的协议,利用加密元数据来标记 AI 生成的内容。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2023-08-30
谷歌DeepMind推出SynthID工具,能在AI生成的图像中嵌入隐形水印
已在谷歌云平台开放。

长按扫码 阅读全文