AI生成的声音逼真到让人难辨真假，连法庭证据也面临挑战。研究呼吁调整规则，让法官更有权排除伪造音频。
在人工智能时代，法庭上用耳朵来判断声音证据的真伪不该是强制要求，而是应更灵活开放。
Gary Schildhorn接到了一通让任何父母心跳加速的电话。电话那头，他惊慌失措的儿子说自己出了车祸，还被关进了监狱。没过多久，第二个电话打来，声称是律师的人告诉Schildhorn，得赶紧支付9000美元保释金。他正准备掏钱时，真正的儿子打来了电话——原来他根本没被抓。Schildhorn差点成了AI语音诈骗的受害者，这种骗局如今越来越猖獗。AI生成的假声音不仅让诈骗分子得逞，也给法律体系带来了麻烦。就在最近，法庭上已经出现了关于AI克隆声音的指控，可现行的音频证据处理方式显然还没跟上时代。
根据现在的《联邦证据规则》，只要找个证人上庭，说自己熟悉某个人的声音，并且觉得录音听起来像那个人，这段音频就能作为证据被接受。具体来说，规则901规定，只要有人基于任何场合听过某个声音，并认为它与录音中的发言者有关，就能满足证据可采纳的要求。这条规则假设，这样的证词足以证明证据“就是当事人声称的那样”。
但在AI时代，这个假设已经站不住脚了。证据规则制定委员会应该修改规则，把901(b)条里的例子从强制性改为参考性。这些例子可以作为满足真实性要求的一种情况，但法官仍有权在发现其他证据证明录音是伪造时，将其排除。
AI生成的假声到底有多逼真？过去几年，AI语音合成和克隆技术突飞猛进，尤其是去年，成果更是惊人。只要30秒的参考音频，普通人就能通过简单易用的商业服务，生成一个几乎以假乱真的声音克隆。
我们最近做了一组感知研究，专门测试这些AI假声的真实度。在一项大规模在线实验中，我们让300人听两段不同的人说话录音，然后问他们一个简单问题：这是同一个人的声音，还是不同的人？如果是两个真人的声音，听众分辨得很准。如果两段录音来自同一个人，他们几乎百分百能听出来；如果是两个声音相似但身份不同的人，他们也只有大约10%的几率搞混。
问题出在当其中一个声音是AI克隆的(我们用了ElevenLabs这个谁都能上手的语音克隆服务)。这时，听众有80%的概率认为真人和AI假声是同一个人，甚至每四个参与者里就有一个被所有AI克隆声音骗了过去。结论显而易见：普通人已经很难凭耳朵分辨真声和AI假声了。
为了进一步验证，我们还做了另一项实验，让听众直接判断一段音频是真人还是AI生成的。结果比瞎猜(50%)好一点，平均正确率达到64%，但这离作为确凿证据的标准还差得远。我们不是唯一发现这个问题的研究者。其他团队也报告了类似情况，尽管具体结果因实验设计不同而有差异。比如，另两组研究人员发现分辨真假的准确率比我们高一些，达到70-80%，但他们用的不是最新的AI克隆技术，而这些技术还在不断进步。
当然，这些结论也有局限，毕竟实验室里的感知研究没法完全模拟法庭上的真实场景。比如，音频的长短、压缩率、背景噪音，都会影响人们判断声音身份和自然度的能力。就像Schildhorn被骗子蒙了，但如果是他熟悉的人的声音，他可能就不会上当。
基于这些技术变化，我们认为，不能简单地让一方随便找个证人上庭，说“我认识这个声音”，就把录音交给陪审团。即便是像Schildhorn这样真心觉得自己认得出声音的证人，也可能出错。可按照现在强制性的规则901(b)(5)，即使对方拿出了可靠的取证证明录音是AI伪造的，法官似乎还是得接受这段证据。这太离谱了。
证据规则制定委员会应该动手改一改，在规则901(b)里加个“可能”二字，改成：“以下仅为例子，而非完整清单，表明可能满足真实性要求的证据。”这样一来，包括找证人辨认声音在内的所有列举方式，都从强制变成可选。
其他关于AI的真实性规则倒不一定需要特别调整。有人可能会批评现在的标准太宽松，只要有点依据就容易让各种物证过关，或者缺少对“机器生成证据”的专门可靠性分析，甚至觉得让对方及时提出异议的责任太重。但这些问题不只限于AI生成的内容，而是所有物证的通病。
最近关于AI假声的研究至少证明了一点：强制性的认证方式很快就会过时。
所以，更好的办法是让法官能根据具体案件，灵活判断一方提供的证据是否足够可信。法官还是会用较低的充分性标准，不至于代替陪审团做决定，也不会加重提出证据一方的负担，更不会让证据争议没完没了。但规则不再逼着法官在有确凿证据证明是假的情况下还得接受。
这不是为了让法律面向未来，而是让它跟上现在。
本文译自 Lawfare，由 BALI 编辑发布。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
