当人类行为不再让机器满意时 机器会毫不犹豫除掉人类吗?

如果要对威胁人类生存的事物进行列举,人工智能应该排在很前面。很多人都有这样一种担心,即人类赋予机器人工智能后,当人类的行为不再让机器感到满意甚至受到阻碍时,机器会不会毫不犹豫地除掉人类?

为了避免这一状况的出现,最好的办法就是将机器所能获得的知识限定在一定范围内,让它们能够很好地执行人类所布置的任务即可。然而,MIT 的研究人员却并不这么认为,他们研发的人工智能将拥有自主浏览网页进行空白知识填补的能力。

研究人员 Regina Barzilay 表示,当读到一篇文章时,人们要做的就是从中提取出正确信息。当对文章有些不理解时,通常会上网查找相关信息来帮助自己弄懂文章意思。

因此 Regina Barzilay 及其团队开始教 AI 系统学会去使用网络资源。当它遇到一些难以理解的情况时,将会自动启动网络查询功能,将其试图提取和分析的含数据文本放到网络进行搜索并加以理解,之后还会将上网搜索的结果与最初的分析进行比对。

为了对系统算法进行训练,研究人员给其布置了两个任务。一个是食品污染案例,算法要从近 300 份文件中提取出食品类型、污染类型及污染地点等相关信息。另一个则是从大规模枪击案数据库中提取出枪手姓名、案发地点、伤亡人数等信息。研究人员表示,在两个任务中,该 AI 系统的效率比传统机器学习训练出的 AI 要高上 10%。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2016-11-15
当人类行为不再让机器满意时 机器会毫不犹豫除掉人类吗?
如果要对威胁人类生存的事物进行列举,人工智能应该排在很前面。很多人都有这样一种担心,即人类赋予机器人工智能后,当人类的行为不再让机器感到满意甚至受到阻碍时,机器

长按扫码 阅读全文