极客网·极客观察(朱飞)5月16日,伟大的公司通常都有一个广受认同的价值观,谷歌的“不作恶”(Don’t Be Evil)就是一个典型。这一价值观过去20年里不仅让谷歌成为全球市值最高的公司之一,而且其美誉度也处于科技公司的金字塔尖。然而就在这几天,一件事情的发生让谷歌公司这一形象遭遇严重挑战。
不满公司参与军事项目,谷歌员工请愿辞职
据美国科技网站Gizmodo、TNW等15日报道,近期有不少谷歌员工在得知公司正与美国国防部合作,向一个名为“Maven计划“(Project Maven)的军事项目提供人工智能(AI)支持时,为表抗议先是发生了4000人联名请愿,后又出现了约12名员工向公司集体辞职的事件。
对此,TNW报道指出,看起来谷歌内部员工有些困惑于公司的决定,不确定“不作恶”的信条是否应该对向国家军事项目提供AI机器学习的项目一视同仁。言外之意,这部分员工认为,向军方提供AI协助,已经触犯了谷歌“不作恶“的公司理念。
当然必须指出的是,据极客网了解,谷歌AI技术在Maven计划中发挥的作用不是直接研发生产什么新式武器——尽管这方面业界多有担忧AI会催生“杀人“机器人——而是帮助军方基于谷歌的TensorFlow分析无人机拍摄的视频录像。
但也有报道指出,是谷歌的云计算部门支持开发了Maven计划,这一计划会为谷歌创收数百万美金。该计划旨在增强无人机的性能,以帮助其进行机器学习,具备思考和观察能力。了解人工智能和无人机的都应该知道,这两项技术都被认为极有可能被用于武装军事领域的新杀伤性武器。那些能够自动定位并发起射击或投弹的无人机,已经在电影中不止一次地出现。
因此,谷歌参与到美国军方AI项目已成事实。而对于事态的严峻性,内部员工的集体请愿,甚至不惜辞职从侧面给出了一个印证,表面这些技术人士担心不受控制的AI技术最终会祸害无穷。目前这一事件正在发酵,从外媒的预测看,不排除谷歌员工有进一步的反对行为。
科技工作者发起公开信支持谷歌员工,600多人已签名
就在谷歌自家员工用实际行动捍卫公司信条时,来自外界的多名计算机、信息技术专家学者也发布了一封公开信,要求谷歌结束在 Maven 计划的工作,并支持一项禁止自动化武器系统的国际条约。
截至发稿这封公开信下方已经收集到了665个签名,参与支持的多为教授、博士级别。在公开信中,这些外界科技工作者明确表示支持谷歌员工、以及其他反对谷歌协助美国军方项目的行为。除了呼吁谷歌停止与美国防部的合作外,他们还特别警示谷歌,不要将公司收集的私人数据用于军事目的。
公开信承认军方资本在技术发展过程中发挥过重要作用,但指出即便如此也不能让军方牵着鼻子走,科技领域的研究和发展应该走自己的路。这些科技工作者在信中称,在Maven 计划中,在谷歌提供的可不是开源的深度学习技术那么简单,而是在给美国防部传授技术,乃至直接协助。
在这封公开信的最后,这些科技工作者们还表示,“当前是一个关键时刻,剑桥分析事件的恶劣影响还没有散去,民众刚刚见识了技术作恶的能力。“最后,他们给谷歌及其母公司高层总结了他们的三条诉求:第一,终止与国防部的Maven计划;第二,承诺不发展军事技术,不把收集的个人数据用于军事行动;第三,保证不参与、不支持开发、制造、交易或使用自主武器(人工智能武器),支持推进禁止自主武器的公约。
谷歌反应迟缓,内外施压或使该公司做出新的回应
从外媒报道情况看,早些时候发生的4000名员工联名请愿并没有并没有影响谷歌的决定,Gizmodo报道指出,谷歌非但没有叫停Maven 计划,甚至还在竞标美国国防部另一个重要的云计划项目——联合企业防御基础设施(Joint Enterprise Defense Infrastructure,简称JEDI)。
谷歌云的CEO Diane Greene甚至表示,谷歌的技术不是用来“操作或飞行无人机“,也不会被用来“发射武器”。看起来,谷歌高层仍然没有意识到事态的严重性。参考Facebook数据泄露的案例,不作恶可不意味着一定非得亲身作恶,辅助作恶或为作恶提供援助,也算是“帮凶”。
在朱飞看来,Facebook数据泄露和谷歌AI助力Maven计划实质上是同一类事件,前者因影响美国大选而广受关注,后者则因为事关杀人武器而引人注目。正如核能技术一样,技术本身不存在好坏之分,善恶取决于使用它们的人,以及它们被使用的方式。谷歌员工和外部科技工作者在这件事上选择站在了正义一方,接下来就看谷歌能否恪守其“不作恶”的信条了!
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。