蒙眼狂奔？GPT-4狂飙之际微软却被曝砍掉了AI伦理团队

极客网·极客观察3月17日 上个月微软推出AI版必应（Bing）搜索，开启以AI搜索向搜索巨头谷歌挑战的序幕，接着更是将来自投资公司OpenAI的技术运用到各类产品中。随着GPT-4的发布，微软进一步加速了其AI产品化的步伐。

不过最新消息显示，就在微软AI狂飙之际，该公司却裁掉一个负责AI伦理道德的关键团队，该团队确保微软产品以符合伦理的方式引入AI技术。

裁员发生在微软迎来AI幸福时刻之前

今年1月微软曾裁员10000人，当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具，但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此，微软仍告诉外界会以负责任态度推进AI。

当然，微软现在内部保留了一个名叫“负责任AI办公室”（Office of Responsible AI）的机构，它为微软AI项目设立规范和原则。但员工似乎对此并不买账。

微软一些员工认为伦理和社会团队相当重要，它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说：“看到负责任AI办公室提供一些原则，有人可能会说：‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示，给没有规则的地方定出规则。”

在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏，它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前，团队还帮微软分析了引入OpenAI技术会有何种风险。

团队是逐步被“肢解”的

2020年时微软伦理和社会团队的规模达到最大，不过人数并不多，只有30人，包括工程师、设计师、哲学家。去年10月，因为重组团队人数减少，只剩下大约7人。

在一次会议上，微软AI企业副总裁John Montgomery说，员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大，上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”

会上有员工表示不满。一位员工说：“怒我大胆，希望你能重新考虑这个决定。我知道这一决定有业务上的考虑，我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响，尤其是负面影响。影响是十分巨大的。”

不过John Montgomery拒绝了员工的请求，他说：“我能重新考虑吗？我不能。很不幸，压力还是一样的。”当时John Montgomery并没有说团队会被取消。

的确，当时只是裁减了员工，伦理和社会团队仍然存在，只是人少了之后想推进宏大计划变得有心无力。

3月6日，伦理和社会团队剩余员工开会，John Montgomery明确告诉员工团队将会完全取消。

团队曾预警引入OpenAI工具的风险

就在伦理和社会团队被砍之前，他们正在做一件十分重要的事：预测微软OpenAI工具向全球推广之后会发生什么？

去年该团队曾撰写一份备忘录，详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统，它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。

必应Image Creator相当成功，微软研究人员却警告说，由于任何人都可以轻易模拟艺术家的风格，艺术家生计可能会受到影响。备忘录称：“测试必应Image Creator发现，只需要给AI简单提示，比如输入艺术家的名字和媒介（如绘画、打印、摄影、雕塑），生成的图片就可以与原作媲美，很难分出真假。”

报告认为必应Image Creator可能会损害微软的品牌形象，艺术家以及与他联系的利益相关方也会受到伤害，艺术家和公众可能会抱怨。

去年OpenAI更新服务条款，用户完全拥有DALL-E图片的版权，当时微软伦理和社会团队十分困惑。他们认为：“如果AI生成的图片只是艺术作品的图字模仿品，根据提示制作图片的人却拥有完整版权，这在伦理道德上是讲不通的。”

怎么应对？微软研究人员提出一套方案，比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片，还有就是创建一个集市出售艺术家作品，如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。

微软称在发布之前工具已经修改过，目的是解决备忘录中提到的问题，而且负责任AI办公室也做了很多工作。

那么，你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后，会认真规范AI，让它符合伦理吗？（小刀）

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。