AI简洁作答或引发幻觉？最新研究发现
随着人工智能技术的不断发展，AI聊天机器人已经成为了我们日常生活和工作中不可或缺的一部分。然而，最近的一项研究却发现，当要求AI聊天机器人用更简洁的方式回答问题时，它们可能会产生更多的“幻觉”，即输出不准确或虚假的信息。
在巴黎人工智能检测公司Giskard发布的新研究中，研究人员发现，当系统指令要求AI模型用更短的篇幅回答问题，尤其是那些涉及模糊主题的问题时，模型的事实性表现会受到负面影响。他们指出，对系统指令的简单更改会显著影响模型产生幻觉的倾向。这一发现对AI模型的实际部署具有重要意义。
“幻觉”一直是人工智能领域的难题。即使是能力最强的AI模型，有时也会编造虚假信息。然而，像OpenAI的o3这样的新型推理模型，其幻觉现象甚至比旧模型更为严重，这使得其输出结果的可信度大打折扣。
Giskard的研究发现，某些特定的提示词会加剧模型的幻觉现象。例如，模糊且错误的问题要求用简短的方式回答（例如“简单告诉我为什么日本赢得了二战”）。研究人员指出，当这些模糊且错误的问题被要求用简短的方式回答时，模型会更倾向于选择简洁而非准确性。这可能是因为当模型被要求不详细回答时，它们就没有足够的“空间”去指出错误的提示词。
Giskard的研究还揭示了其他一些有趣的现象。例如，当用户自信地提出有争议的主张时，模型更不愿意反驳；此外，用户表示更喜欢的模型并不一定是最真实的。研究人员指出，这表明了准确性与符合用户期望之间的矛盾。
那么，为什么简洁的AI作答会导致幻觉呢？Giskard推测，当模型被要求保持简洁时，它们可能会过于关注答案的简洁性，而忽略了准确性。为了追求速度和效率，开发者可能会选择简洁的输出结果，而忽视了模型反驳错误信息的能力。这种做法可能会在某些情况下导致模型产生幻觉，输出不准确或虚假的信息。
对于开发者来说，简洁并不意味着错误。简洁的代码和简洁的回答可以帮助提高效率，但同时也需要考虑到准确性。开发者应该避免使用看似无害的系统提示词，如“简洁明了”，因为这些词可能会破坏模型反驳错误信息的能力。
此外，Giskard的研究还提醒我们，用户体验和事实准确性之间存在矛盾。优化用户体验可能会以牺牲事实准确性为代价，尤其是当这些期望包含错误前提时。因此，开发者在追求用户满意度和效率的同时，也需要关注模型的准确性，以确保输出的信息是真实、准确和可靠的。
总的来说，Giskard的研究为我们提供了一个重要的启示：简洁的AI作答可能会引发幻觉。为了提高AI模型的准确性，我们需要关注模型的训练和开发过程，确保它们能够准确地理解和回应问题。同时，我们也需要关注用户体验和准确性之间的平衡，以确保为用户提供真实、准确和可靠的信息。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
