OpenAI CEO迫切要求监管大语言模型，警告生成式AI风险

北京时间5月18日下午消息（蒋均牧）微软支持的OpenAI首席执行官山姆·阿尔特曼（Sam Altman）呼吁美国监管高级大型语言模型的部署，警告没有坚实的政策框架的生成式人工智能的危险。

在与美国参议院讨论生成式AI治理的听证会上，阿尔特曼认为，随着对社会威胁的担忧日益加剧，监管对于减轻日益强大的模型带来的风险至关重要。

在他的证词中讨论的威胁，集中在与OpenAI如何训练其模型相关的错误信息的传播和违反数据隐私法。

参议员理查德·布卢门撒尔（Richard Blumenthal）在听证会上表示，未经充分训练的人工智能的前景“非常可怕”，并认为新技术必须“担负责任”。

他指出，OpenAI的ChatGPT具有模仿和模拟真实人类互动的能力，他以一段由经过语音训练的模型生成的语音开始了他的证词。

阿尔特曼建议称，成立一个政府机构来监管人工智能的训练和部署将有助于开发，并解释了对于开发者“许可和测试要求相结合”的必要性。

他还提议吊销开发超出某些“阈值”或“能力”的人工智能工具的开发者的许可，例如能自我复制或产生有害内容的模型。

阿尔特曼主张围绕机器学习工具如何从互联网手机数据以生成响应来制定管理规则。

“用户应该能选择不让我们这样的公司或其他社交媒体公司使用他们的数据。”他补充道。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。