出品 | 网易智能（公众号 smartman163）
作者 | 丁广胜
我们对于AI威胁的担忧从未停歇，但这并不妨碍威胁不断加剧。
事实上，不论专家们如何歇斯底里地呼吁，很多人工智能武器和国防项目都在快马加鞭地推进，美国作为人工智能的桥头堡，这个棘手的问题很快摆在了决策者的办公桌上，谷歌、微软、亚马逊等科技巨头无一幸免……
那么，到底是谁出了错？科技巨头遭到连环抵制又将对AI行业带来哪些影响？面临挑战的AI道德又将何去何从？
1
首先引起员工强烈反弹的是“不作恶”的谷歌，谷歌云首席科学家李飞飞在政府AI项目签订之初就担心：这是媒体损坏谷歌声誉的绝佳机会，你们大概听说过伊隆·马斯克的评论，他认为人工智能可能引发第三次世界大战，我不知道如果媒体开始渲染谷歌秘密开发人工智能武器，或者用人工智能为国防行业开发武器会发生什么事情。
然而，令谷歌管理层揪心的事情还是发生了。从今年三月份开始，就有媒体曝出谷歌参与政府的AI项目订单，将人工智能技术应用于战争中的无人机控制，彼时引发了数千名谷歌员工的联名上书，谷歌云CEO戴安·格林（Diane Greene）为了安稳员工情绪，试图敷衍过去，表示合同其实只有900万美金。她希望大家心里明白，900万美金的小项目对于谷歌这样的庞然大物来说确实不值一提了。
The Intercept于3月7日报道了谷歌悄悄获得国防部的新算法战争试验项目
不过，随着The Intercept的爆料，谷歌管理层的敷衍做法没有得逞，爆料显示，谷歌预计的项目收入从开始的15000美金增加到了2.5亿美金，如果900万是小项目，那2.5亿美金的项目则牵动了整个谷歌。
接下来发生的事情大家应该知道了，这件事在谷歌内部迅速蔓延，随即爆发了更大规模的抗议，更有很多员工以离职相威胁。
眼看事态无法控制，谷歌管理层终于在事情爆发的三个月后作出让步，谷歌CEO皮查伊在官网发布了一篇名为《Google人工智能：我们的原则》的文章，并宣布不再与国防部续约合同。
皮查伊表示，人工智能技术的应用目标应该是：对社会有益；避免制造或加剧偏见；提前测试以保证安全；由人类担责；保证隐私；坚持科学高标准。
而不应该将人工智能技术应用于：制造整体伤害之处，如一项技术可能造成伤害，我们只会在其好处大大超过伤害的情况下进行研发，并提供安全保护措施；武器或其他用于直接伤害人类的产品；收集使用信息，以实现违反国际规范的监控的技术；目标违反被广泛接受的国际法与人权原则的技术。
他们希望以这些框架为准绳，避免谷歌的人工智能技术再次触碰红线。
2
无独有偶，另一位巨头亚马逊的政府人脸识别项目同样遭到抵制。
据Futurism的报道，早在2016年亚马逊就推出了Rekognition，它是一种人工智能驱动的面部识别软件 ，扫描视频或照片来检测人或物体，该技术可以分析一个人的脸部以确定他的情绪，还可以在一张照片中识别出100张脸孔，并在整个视频中跟踪一个人，即使他们离开并重新进入视野。
亚马逊官网对于 Rekognition 技术的介绍，图为人脸识别
换句话说，这是一个强大的监控工具，政府机构和执法机构显然是亚马逊的目标客户，如今，在美国反对科技公司参与政府AI项目的浪潮下，亚马逊的项目也不可避免的卷了进来。
目前，美国公民自由联盟（ACLU）华盛顿基金会的署名信和亚马逊19位股东的签署信已经呈上亚马逊CEO贝索斯的办公桌。
但这位被称为世界上“最糟糕”的老板还没有表态。
3
当然，这样的糟心事儿也被刚从“失去移动互联网”中缓过劲来的微软赶上了，而且微软的AI项目抵制危机来的更加直接。
事件起因是在美国当地时间6月24日，美国总统特朗普发推：我们不能让这些人侵入我们的国家，当有人来了，我们必须立即在没有法院和立案的情况下，把他们送回他们来的地方。
“零容忍”大棒之下，美国国土安全部证实，在4月19日到5月31日期间，美国边境巡逻队已经把近2000名非法移民儿童从他们的父母身边带走，而子女与父母走的是完全截然不同的两种程序——对儿童提供必要的帮助，成人则关押起来等待被直接遣返。
《时代》周刊杂志封面：“零容忍”边境政策下哭泣的两岁孩子和特朗普
事件发生后，指责甚至谩骂铺天盖地，最引人关注的是五位前第一夫人的发声，她们纷纷指责特朗普政府的不人道行径，更有很多州政府宣布不会向美国西南边境派驻国民警卫队。
截止目前，虽然特朗普签署了不再将儿童从非法移民手中夺走的政府文件，但该事件还在持续发酵，民众愤怒的对象烧向了为政府提供AI技术的微软公司，资料显示，微软为移民和海关执法局（ICE）提供云服务和人脸识别技术，他们被指是ICE的帮凶。
同样，微软的员工也不买帐，他们纷纷站出来发声指责，并且有人说：是时候认真考虑离职的事情了。
面对压力，微软官方的回应显得拖泥带水，没有谷歌那样果断，微软在针对该事件的声明中表示，我们不知道政府用我们的技术干了这样的事情，我们也没有和ICE合作破坏别人的家庭，发生这样的事我们也很惊讶。
4
你可能不清楚人工智能技术，但你一定听说过AI威胁论，霍金、马斯克们的预言和警醒以及《西部世界》这类AI伦理电影都输出着这样的观点，他们担忧人类被人工智能替代、统治甚至消灭。
人工智能威胁真的到了最紧迫的时候？
上文提到的担忧应该是AI威胁的2.0版本了，其实，在更多时候大家讨论的是AI如果夺取我们工作应该怎么办，据布鲁金斯学会（the Brookings Institution）研究人员进行的一项调查显示，52%的被调查者相信，30年内机器人将进化到可以完成目前人类大部分活动的阶段。民意调查还发现，对于美国政府是否应该设立一个联邦机器人委员会（Federal Robotics Commission）来管理机器人的开发和使用，有29%至32%的人持支持态度。
如果说1.0版本的AI威胁大家还可以坐下来心平气和的争论，那现在美国讨论的AI威胁则是真正意义上的威胁，它运用到战争和统治当中，进而威胁人类的生命权以及自由权，后果不堪设想。
你可能不禁要问，谷歌、亚马逊、微软发生这样的事情，到底是谁错了？我们看看，其中的参与方包括政府、AI巨头、员工、普通民众，仔细琢磨好像都没有错——政府出于安全目的（侵略行为另当别论）；AI巨头出于商业利益目的；员工和普通民众出于担忧AI技术泛滥，保护人类不受AI技术侵犯目的。
笔者认为，这里的关键是美国政府的意志，他们在制定国防战略和商业订单的时候，需要在顶层设计时将AI伦理问题考虑进去，让AI技术在合理的地方发挥价值，如果微软的技术没有帮助政府将偷渡者“骨肉分离”，而是进行城镇布控和抓捕逃犯，那民众的反弹一定会微小很多。
同样，如果谷歌的技术没有用于无人机攻击而是民用领域，那员工肯定举双手赞成，而谷歌的AI项目事件特殊性还在于，战争是有原罪的，它一定是建立在流血的基础上。
毕竟，任何的AI威胁言论都是危言耸听，除非有人故意指使，将AI武器严格管控起来，就像核武器那样，人类还需要一点时间。
在此之前，我们就寄希望于人类社会的容错机制吧。
关注网易智能公众号（smartman163），为你解读AI领域大公司大事件，新观点新应用。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
