7月6日消息，当地时间 7 月 5 日，ChatGPT 的开发者 OpenAI 表示计划投入更多资源并成立新的研究团队，研究如何确保 AI 对人类的安全性，最终实现用 AI 来监督 AI。
据新浪科技报道，OpenAI 联合创始人伊利亚・苏茨凯弗（Ilya Sutskever）和 AI 对齐负责人简・莱克（Jan Leike）在官方博客中表示：“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能 AI，并防止其变成无赖。”
这篇博文预测，超智能 AI，即相比于人类更智能的系统，可能会在未来 10 年中出现。人类需要比目前更强大的技术来控制超智能 AI，因此需要在“AI 对齐研究”方面取得突破，确保人 AI 对人类持续有益。
AI 对齐是 AI 控制中的主要问题，即要求 AI 的目标和人类的价值观与意图保持一致。
作者写道，OpenAI 将在未来 4 年内，将算力的 20% 专门用于解决这方面问题。此外，该公司将组建新的“超对齐”团队来组织这方面的工作。团队的目标是开发达到“人类水平”，由 AI 驱动的对齐研究员，随后通过庞大的算力推动其发展。
OpenAI 表示，这意味着将使用人工反馈来训练 AI 系统，通过训练 AI 系统来协助人工评估，最终训练 AI 系统来进行实际的对齐研究。
- 蜜度索骥：以跨模态检索技术助力“企宣”向上生长
- 联想张华：把握智能体时代脉搏，天禧AS率先迈入AI新周期
- TechWeb微晚报：理想有望做一款AI超跑，广电部门约见“红果短剧”负责人
- 小米科技家电销量创新高：覆盖全国2898个区县，送拆装一体服务引爆市场
- 紫光展锐新智能穿戴平台W337：双核A53+独立3D GPU，轻薄实力派！
- 蚂蚁群体智慧登顶PNAS：团战“最强AGI”，几何难题破解完胜人类，揭示群体智能新篇章
- Deepseek新模型惊艳表现：编程速度超越Claude 3.5 Sonnet，实力不容小觑
- 三星神秘新品曝光：Galaxy Ring 2智能戒指或成Galaxy Unpacked 2025惊喜，科技新体验待揭晓
- AI揭示血液样本秘密：逆转生理年龄？22.5万人血液样本揭示新可能
- 消息称小米正搭建GPU万卡集群 加大AI大模型投入
- 英国试用水准AI评估糖尿病风险：提前10年识别潜在患者，科技助力健康管理
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
