马斯克和扎克伯格共进晚宴,AI顶级密圈讨论：人工智能威胁论

高层速读

关键信息：2014年，扎克伯格邀请马斯克等人在家中共进晚餐，试图说服马斯克对于人工智能威胁的看法，但没有成功；谷歌、亚马逊和Facebook等企业带动了整个行业对人工智能威胁的关注；2017年，人工智能顶级人物开启密圈讨论，公认超级人工智能必然存在。

关键数据：超过4,000名谷歌员工签署了请愿书，抗议与五角大楼的一份价值900万美元的人工智能合同。

关键意义：科技行业长期以来一直认为，它正在让世界变得更美好，不管这个世界是否喜欢它。

Facebook CEO马克•扎克伯格认为，同为硅谷亿万富翁的埃隆•马斯克对人工智能的担忧行为简直是杞人忧天，这位SpaceX和特斯拉的CEO在电视采访和社交媒体上多次提醒世界，人工智能“可能比核武器更危险”。

因此，在2014年11月19日，扎克伯格邀请马斯克在他位于加州帕洛阿尔托的家中共进晚餐，来自Facebook人工智能实验室的两名顶级研究人员以及高管也加入了他们的行列。

在餐桌上，Facebook的团队试图让马斯克相信他是错的，但这并没有奏效，“我真的相信这是危险的，”马斯克对在场的人员说。

马斯克对人工智能恐惧的原因很简单：如果我们创造出比人类更聪明的机器，他们可能会转而反对我们。比如电影《终结者》、《黑客帝国》和《2001太空漫游》。

他对科技行业的其他从业者说，“就让我们考虑一次，我们所创造的那些意想不到的后果，把它释放到世界上会带来怎样的后果。”

无论是马斯克还是扎克伯格，都不会详细谈论这顿晚餐，之前没有报道过，也没有讨论他们长期以来的人工智能辩论。

超级智能——这是一种将人工智能提升到下一个层次的技术突破，它创造的机器不仅能完成通常需要人类智能，如自动驾驶汽车等狭窄任务，而且还能超越人类，就像科幻电影所展示的那样。

AI威胁密圈讨论，超级人工智能必然存在

太平洋小树林是加州中部海岸的一个小镇，1975年冬天，一群遗传学家聚集在那里，讨论他们的工作——基因编辑——是否会对世界造成伤害；2017年1月，人工智能社区在海滨小树林里举行了类似的讨论。

人工智能领域的重量级人物都在这里，包括Facebook人工智能实验室的LeCun——他开发的卷积神经网络是当今人工智能领域最重要的工具之一；Nick Bostrom也出席了这次活动，他在2014年出版的《超级智能：道路、危险、战略》一书中，对人工智能产生的影响进行了讨论;Oren Etzioni曾是华盛顿大学的计算机科学教授，也在西雅图艾伦人工智能研究所工作;另一位是DeepMind的负责人Demis Hassabis。

Yann-Lecun

马斯克也是如此，他在2015年向马萨诸塞州剑桥市捐赠了1000万美元，同年，他还帮助创建了一个独立的人工智能实验室OpenAI，明确的目标是：用安全措施创造超级智能，以确保它不会失控。

在会议结束的第二天，马斯克参加了一个专门讨论超级智能问题的9人小组，每个小组成员都被问到超级智能是否有可能，当把麦克风递给他们的时候，每个人的回答都说“是”，直到麦克风传到了马斯克那里。

“不，”他说，小礼堂里充满了会心的笑声，因为每个人都明白，马斯克认为超级智能不仅是可能的，而且是非常危险的。马斯克补充说：“我们正走向超级智能或文明的终结。”

在小组讨论结束时，马斯克被问到，社会如何才能最好地与超级智能共存，他说，我们需要的是大脑和机器之间的直接联系。几个月后，他推出了一个名为“Neuralink”的初创企业，旨在通过将电脑与人脑融合来创造这种所谓的“神经界面”。

当然，关于人工智能风险的警告已经存在了好几年了，但这些预言家中很少有人拥有马斯克的技术含量，即便是有，也几乎没有人花那么多时间和金钱在上面。

整个科技行业都在讨论人工智能的未来

超过4,000名谷歌员工最近签署了一份请愿书，抗议该公司与五角大楼签署的一份价值900万美元的人工智能合同，这笔交易对这家互联网巨头来说是一笔“鸡饲料”，但对该公司的许多人工智能研究人员来说却非常令人不安。

上周，试图阻止员工造反的谷歌高管表示，他们不会在明年合同到期时续签合同。人工智能研究具有巨大的潜力，无论是作为经济引擎还是军事优势。

中国政府已表示，愿意在未来几年内投入数十亿美元，让中国成为人工智能领域的全球领导者，而五角大楼也正积极向科技企业寻求帮助，预测未来的新型自主武器在不会有太大的距离。

各种各样的思想家都加入了人工智能威胁的辩论中，从加州中部海岸的哲学家和科学家聚会，到亚马逊CEO杰夫·贝佐斯在加州棕榈泉举办的年度会议。

“你现在可以谈论人工智能的风险，而不像是迷失在了科幻小说中”牛津大学人类研究所负责人阿兰达福说，该研究中心探讨了先进技术的风险和机遇。

在过去的几个月里，Facebook和其他科技公司的公开烘烤，已经在很大程度上引发了硅谷创造的技术带来的不良后果的讨论。今年4月，扎克伯格花了两天时间回答国会议员关于数据隐私问题。以及上个月在欧洲面临的类似拷问。

Facebook认识到，人们对正在发生事情的反应迟钝，带来了一个罕见的自我反省时刻：这个行业长期以来一直认为，它正在让世界变得更美好，不管这个世界是否喜欢它。

即使是像微软创始人比尔·盖茨和已故的斯蒂芬·霍金这样有影响力的人物，也表达了对创造比我们更聪明的机器的担忧。

“我们正在创造的这种系统非常强大，”康奈尔大学计算机科学教授、贝尔实验室前研究员Bart Selman说，“我们无法理解和预料他们的影响。”

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。