担忧机器人威胁论?DeepMind教机器人"服从人类"

以《机械公敌》为代表的科幻电影中,都表达了未来人类可能会被机器人掌管的担忧。在耳渲目染下,不少人都坚信奇点(人工智能的智力超过人类)的存在,不过最新的研究报告可能舒缓这方面的担忧。

来自Google的DeepMind人工智能实验室的最新研究报告指出,大脑信号将自动告诉我们人类如何融入社会等级。在制造智慧型机器人过程中,这项研究将会产生巨大帮助,使其了解自身阶级定位,从而让人类始终具备主动权。

“机器人威胁论”尘嚣甚上?DeepMind研究要教机器人“服从人类”

为摸清人类如何学习社会等级制度,来自DeepMind 和伦敦大学学院的科研团队利用 fMRI 脑扫描仪,邀请了30名健康的大学生执行一项任务。这项任务就是假设自己毕业到想要的公司上班,如何才能尽快了解公司现有的权力架构。

他们要求观察两名同事之间的「竞争」,并根据胜出结果来判断两者之间的权利大小。在完全了解公司的权力架构后,绘制出这家公司的权利阶级。而最终,他们不得不决定在公司内应该为哪个人工作。

「我们发现这种让参与者了解团队中个体权利大小的方式,是贝叶斯推理逻辑的最佳证明。」DeepMind 实验室的科研专家 Dharshan Kumaran 说道:「基本上你需要评估每个人的权利等级,当你接受到新的讯息(例如两个人的竞争结果)时候就会自动更新。」

这意味着人们可以通过观察不同人之间的交互结果并填补缺失部分,就能迅速形成对整个层级等级的理解。

“机器人威胁论”尘嚣甚上?DeepMind 研究要教机器人“服从人类”

举例来说,当有人观察到「Jane」在同「Paul」的竞赛中获胜,又观察到 Paul 战胜了很多竞赛者,那这样就能让他们预估 Jane 的权利有多大。这是因为有新的证据表明,Paul 尽管是第一场比赛的失败者,但依然比我们想象中的更为强大。

「相比较作为旁观者,当身处于某个权利架构中的时候,人类就会使用多种方式学习和展现社会阶层。」Kumaran 说道:「人类的脑前额叶,是高度发达的区域。该项研究的参与者在了解自己所属社会团体中人员权利组成的时候,明显要比了解其他人的社会团体权利结构更加的活跃。这也表明当涉及自我信息的时候人类的特殊天然反应。」

“机器人威胁论”尘嚣甚上?DeepMind 研究要教机器人“服从人类”

社会互动必须要区分我们的思想、目标和偏好,而这正式人类所擅长的认知功能。Kumaran 教授说道:「DeepMind 团队从事神经科学研究的部分原因是,我们的终极目标是研发人工智能并将其应用解决世界上最棘手的问题。」

「因此我们口中的『智能』的核心之一是,理解我们人类自己是如何学习结构化知识,因此这是我们研究的重点。」这项研究成果已经在《Neuron》期刊上发表。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2016-12-14
担忧机器人威胁论?DeepMind教机器人"服从人类"
以《机械公敌》为代表的科幻电影中,都表达了未来人类可能会被机器人掌管的担忧。在耳渲目染下,不少人都坚信奇点(人工智能的智力超过人类)的存在,不过最新的研究报告可能舒缓这方面的担忧。

长按扫码 阅读全文