人工智能决不能用于杀人！马斯克与2400多名学者抗议AI武器

高层速读

关键信息：本周，在瑞典2018年国际人工智能联合会上，未来生命研究所所长、Skype和DeepMind创始人、马斯克以及来2400多名学者签署了预防AI武器化的禁令，他们警告称不应该把人的生命交给机器，在各国将AI武器加入军备竞赛之前削减其发展。

关键数据：此次签署包括90个国家160家公司的2400名公司高管、研究人员和学者，规模不断增加。

关键意义：能够自动杀人的AI武器和生化武器一样令人不安和恐惧，应以同样的方式处理。

本周，在瑞典首都斯德哥尔摩举行的2018年国际人工智能联合会议（IACJI）上，SpaceX和特斯拉的CEO埃隆·马斯克、Skype创始人贾安·塔林、谷歌旗下DeepMind的三名创始人、以及未来生命研究所所长马克斯·特格马克在内的知名人工智能思想领袖，都对AI自动武器提出了抗议。

他们与来自90个国家的2,400名公司高管、研究人员和学者签署了一封公开信，承诺不会“参与或支持AI自动化武器的开发、制造、贸易或使用”，他们警告称，不应该把人的生命交给机器。

他们写道：“数千名人工智能研究人员一致认为，这些武器可能会对每个国家和个人造成危险的破坏，尤其是在与监视和数据有关的情况下，自动化AI武器可能成为暴力和压迫的工具。”

这90个国家的学者还呼吁各国政府先发制人，禁止AI武器研发及进入军备竞赛。特格马克（Tegmark）在一份声明中说：“很高兴看到人工智能的领导者们从语言转向行动，实施了一项政客们迄今都未能实施的政策。人工智能有巨大的潜力改变世界，但我们需要对它们的滥用进行预防。能够自动杀人的AI武器和生化武器一样令人不安和恐惧，应该以同样的方式处理。”

活动发起人、未来生命研究所所长Tegmark

以下广大学者和公众是为禁止AI武器化所争取的最新努力成果：

• 2018年4月，一群来自人工智能和机器人技术影响中心的研究人员和工程师发表了一封公开信，呼吁抵制韩国先进科学技术研究所（KAIST），指责该研究所与国防承包商韩华关于军事系统的合作。

• 2017年11月，超过300名加拿大和澳大利亚的科学家给总理贾斯廷特鲁多和Malcom Turnbell写信，敦促禁止使用自动化武器。

• 2015年，马斯克、霍金和数百名科技领袖签署了未来生命研究所的论文，支持立法管理自动化AI武器。

但到目前为止，他们的请求被置若罔闻。

• 在过去的一年里，印度、智利、以色列和俄罗斯等国一直在追求自动化的坦克、飞机、侦察机器人、舰载导弹系统和武器化的无人机。

• 在美国，包括国防部和国土安全部在内的联邦机构都在寻求用机器学习来实现现代化的计划。

但在员工和公众的压力下，谷歌在今年6月发布了一套指导性的人工智能原则，并取消了备受争议的与五角大楼的“Maven”无人机合同；与此同时，微软停止了与移民和海关执法部门的合作，并成立了Aether内部顾问小组，来批判性地审视公司对人工智能的使用；在前几天的一篇文章中，微软总裁史密斯呼吁国会立法，规范面部识别在美国的使用问题。

但还有很多工作要做。

最近一份由美国国家情报总监办公室委托撰写的关于人工智能和战争的报告得出结论说，由于人工智能有可能大规模扩大军事力量，各国几乎会不可避免地会建立自动化AI武器系统，以增强军备竞赛。

这就是为什么马斯克等人说，在为时过晚之前通过监管来削减这些武器是至关重要的。

去年，马斯克与来自26个国家的116名机器学习专家埃写道：“一旦发展起来，致命的AI武器将允许武装冲突将以前所未有的规模进行，比人类所能想象到的还要快。”

“这些武器可能是恐怖主义的武器，可能是独裁者和恐怖分子用来对付无辜民众的武器，还有可能被黑客攻击（系统），以不受公众欢迎的方式行事。”

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。