深度伪造技术和合成媒体的出现引发了对信息真实性和可信度的担忧。为了应对这一挑战，初创公司Reality Defender最近宣布成功融资1500万美元，由风险投资公司DCVC领投。该公司专注于开发工具，用于检测和处理各种合成媒体，包括由AI生成的文本、图像、音频和视频。
Reality Defender的服务对象主要包括企业、政府机构以及其他大型组织，旨在帮助他们区分使用生成式AI创建的合成媒体。这家初创公司自2021年成立以来，声称已经捕获了数百万个深度伪造媒体，并成功阻止了多次虚假信息宣传活动，这得益于他们采用的多模态方法。Reality Defender的网络应用程序和API经过内部培训，能够准确定位生成式AI制作的媒体的操纵或制造。
Ben Colman，Reality Defender的首席执行官，在一篇博客文章中写道:“在这个人工智能不断进步的时代，任何一个人都难以区分现实与伪造。我们是对抗人工智能驱动的虚假信息潮流的一道光明，我们不仅致力于识别和抵制这些威胁，还要积极确保它们不侵蚀信任和民主的支柱。在面对这个不断演变的挑战时，我们的目标始终如一，那就是确保真相和真实性在复杂数字欺骗面前依然不可动摇地闪耀。”
除了融资，Reality Defender还推出了新的可解释AI功能，用于其生成式AI文本检测工具，通过着色文本以突出合成段落，提供了对系统工作原理的可视性。这一可解释AI功能还在音频、图像和视频检测工具中开发中。此外，该初创公司还发布了实时的深度伪造筛查工具，可用于选定的语音渠道，帮助呼叫中心和欺诈团队即时捕捉生成式媒体的操纵。
深度伪造技术的恶意使用已经变得司空见惯，例如，有人制作深度伪造视频试图欺骗他人，甚至试图将他们与诈骗行为联系起来。因此，各行各业都面临着对抗合成媒体的压力。尽管一些公司已经推出了深度伪造检测工具，但这一领域仍在不断发展。比如，对于合成文本的检测，OpenAI曾发布了一款备受瞩目的工具，但在发布后六个月后悄然下架。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
