丨划重点
1. 机器人既没有喉舌，也没有心灵，更没有大脑，它使用特定数字思维或表达方式，表达出类似于人类的情感状态；
2. 现在这个阶段，人类要像教养孩子一样，引导机器具备与人类相一致的“价值观”和目标；
3. 当现代人类在使用技术时，存在着一种与魔鬼签订契约的倾向；
4. 如果将人与机器对立起来看，不可避免地会有一个过程，即机器不断取代人；
5. 人类文明有可能出现一种机器思想者，是一个未来的神话。
编辑 / 赵杨博
丨概述
日前，一场名为“人工智能造福人类全球峰会”在瑞士日内瓦举行。在峰会上，9个机器人召开了一场新闻发布会，这也是世界上第一场由机器人召开的新闻发布会，包括有名的仿真机器人索菲亚，由同一个团队开发的医疗机器人格蕾丝，还有被称为世界上最先进的人形机器人阿梅卡等等。
和之前的版本相比，这些新亮相的机器人都融合了 大模型、生成式AI的能力，在语言表达和逻辑，甚至是表情上都有很大的变化，当被问到会不会抢走人类的工作，机器人格蕾丝说：“我将和人类一起工作，提供帮助和支持，不会取代现有的任何工作。”
7月12日晚间，《亮见》联合腾讯科技，特邀中国社科院科技和社会研究中心主任段伟文，直播解读未来人与机器人、人工智能共生的所面临的的问题。
针对机器人欺骗人类的担忧，段伟文介绍称，“在某些情况下，如果机器人具有足够的智能或‘自我意识’，可能就会产生这种欺骗想法”，他认为人类应该学会识别这种欺骗的能力，同时也强调尝鲜这些新技术的必要性，他说，“在人工智能‘娱乐’人类之前，你应该先逗它们玩，而不必担心它们会欺骗你。”
而对于机器人是否会统治世界的问题，段伟文认为只是一个不会发生的故事，他认为人类有很多手段，包括一些预训练的机制以便于让人工智能、机器人的目标与人类目标对齐。
至于AI在情感领域的应用，在段伟文看了，人类应该保持警惕，“精神科和心理学本身也不是完善的科学，所以使用AI来调节人的情感或进行精神治疗可能会产生偏差。”
以下是直播对话精华实录（在不改变原意的情况下有调整和删减）
01
机器人统治世界只是故事
刘兴亮：AI造福人类峰会，全球首次以人形机器人为主角举办新闻发布会，您觉得核心看点有哪一些？
段伟文：机器人的表演应该已经不是第一次了，在七八十年前甚至更早的时候就出现过。
但这次机器人表演，与大型语言模型或基础模型结合的对话机器人应用产生了很大的关联。换句话说，这一次新闻发布会上的人工智能机器人，在语言表达方面能够产生一种类似于人类的表达，而所谓类似人类的表达，实际上是用户体验角度达到了黄金交叉点。
过去，人们可能会觉得机器人表达的某些地方不自然，或者会出现不合时宜的言辞，涉及价值观冲突等等。
刘兴亮：当记者问阿美卡人形机器人是否打算发动“叛乱”或者反抗制造者时，机器人似乎表现出愤怒的表情，甚至还翻白眼，然后说我不确定你为什么会这么想，我的制造者对我非常好，所以机器人翻白眼意味着它具备情绪表达能力了吗？
段伟文：我认为这可能有一定的偶然性，因为机器人能够表达多种情感（状态）。
然而，当前的机器人情感表达和语言表达，可能还没有完全整合好，之所以会产生（翻白眼）这样的效果，是因为人们对当前的机器人存在拟人化的理解，尤其是它已经能够产生一种非常接近人类的语言表达能力。
机器人Ameca朝记者“翻白眼” 来源 ：BBC
但是，拆解之后，大家就都会知道机器人既没有喉舌，也没有心灵，更没有大脑。换句话说，它更像是一种外星的另类物种，使用特定的数字思维或表达方式，表达出类似于人类的情感状态。
只是，我们无法时刻保持这种理性，当与机器人交流时，会不自然的将其想象成一个人，一旦机器人讲话时采用类似人的态度，并且还有特定的表情，就会给观察者留下深刻印象。
刘兴亮：马斯克说人工智能可能会统治世界，假设这个可能性存在，可能会以一种什么样的方式实现？
段伟文：很多人已经进行了这样的探讨，比如智能爆炸，也就是技术发展到一定程度，可能会达到一个奇点或爆炸点。在这个时间点，现有的机器人和人工智能，能够创造出比它们更先进的机器人和人工智能。这样一来，人工智能的发展将呈现出指数级增长，人类或许也无法控制智能的进一步演化过程。
这种情况下，有很多设想认为，如果出现超越人工智能的超级智能，当其目标与人类的目标不一致时，可能会采取一些对人类不利的行动；甚至有人提出所谓的曲别针隐喻，假设某个机器人的目的是将材料加工成曲别针之类的东西，不排除将人类社会视作材料，甚至将人类自身作为其制造曲别针的原材料。
当然，这并不会真实发生，这些假设也只是通过想象，来警示人类在发展人工智能的过程中，要确保人工智能的目标与人类的目标一致。否则，就有可能产生一种所谓的生存风险或长期风险。
刘兴亮：假设机器人占据世界主导权，会不会有好处存在？
段伟文：我们可以将机器和技术视为人类的辅助工具，就像假肢一样，这些工具可以帮助我们完成各种任务，比如打水、写作、自动纠错等，这些工具的发展则是一个不断演进的过程。
然而，人类在很多情况下会主观认为自己是可控的，但难免进入潜移默化地适应技术发展的过程。例如，现在很多出租车司机不需要导航，因为技术的发展太快了，导致很多人要么来不及改变自己的习惯，要么被动地适应新技术。
在这个过程中 ，人类的恐惧来自于现阶段无法完全了解机器人是如何工作的，也无法预测未来会发生什么，我想举冶金和能源两个例子来帮助理解。
有了冶金技术，我们能够炼制钢铁和青铜等材料。然而在古代，人们对冶金技术了解甚少，甚至不知道自己炼制的材料是什么。类似地，人工智能和大型模型的发展初期，我们可能无法解释或控制它们，但随着时间的推移，它们会变得可解释和可控；在能源技术出现之前，我们无法建立大规模的生产系统，有了煤炭、石油和电力等能源，我们就能实现大规模的技术系统，人工智能也可能面临类似的问题。
所以，机器人和技术如何应用，以及掌握在谁的手中非常重要，其次我们要意识到未来很多事情将由机器来决定，现在这个阶段，人类要像教养孩子一样，引导机器具备与人类相一致的“价值观”和目标。
我们现在讲人机对齐，即让机器的价值和人的价值保持一致，虽然可以通过工程手段来实现，但更关键的地方在于，如何让科技成为我们所期望的未来。
02
“与魔鬼签订契约”
刘兴亮：假设机器人真有意识，会欺骗人类吗？或者说，实现这种可能性的前提条件是什么？
段伟文：首先要明确，机器人与人类内在结构不同，机器人不是人。
我们日常生活所指的欺骗是带有感情色彩的，它涉及到以不良目的，比如说谎或采取虚假行动以引起对方的误解。欺骗是“智能”的一个标志性能力，识别欺骗也是每个人应该具备的一种基本智能。同样地，对于机器人和人工智能来说，识别欺骗也是它们的基本智能之一。
很多时候欺骗基于需求出发，可以称为信息误导，比如机器人通过提供虚假信息来误导用户，从而达到有利于“自己”的结果，所以，在某些情况下，如果机器人具有足够的智能或“自我意识”，它可能就会产生这种欺骗的想法。
刘兴亮：那人类可以通过什么样的手段控制机器人，或者说还有没有必要去控制机器人？
段伟文：人和机器相互影响，形成一种平衡，是一个不断发展的过程。
如果我们从效率的角度来看，机器一直在超越人类，人始终存在各种缺陷，远不及机器。因此，索菲亚提出了让机器比人类更优秀、更高效的理念，但是人类在很多情况下，比如作为领导者，并不一定是效率最高的人。
目前阶段，机器人都是可以受人类控制的，它的开发者在设计、算法和程序等方面都经过了精心设计。与此同时，深度学习和AI大模型的发展，将人类的认知推向了统计概率的极端，而这是以保留部分无知为代价的，这个过程中存在一些无法解释和控制的因素。但人类有很多控制机器人的方法，比如通过"预训练"的方法让机器人的目标与人类的目标对齐。
所以，关于对机器人进行控制，与歌德在《浮士德》所讨论的非常相似，即“当现代人类在使用技术时，存在着一种与魔鬼签订契约的倾向”。
前几年量化交易机器人非常流行，也给市场带来了很大的不稳定性，如果不进行控制，它就有可能毁掉股票市场，所以是否要控制机器人，要视情况而定，它取决于我们的想象力以及对这些关系到人类命运、经济、社会生活等方面的重要问题的判断。
多数情况下 ，我们可以充分利用机器人和人工智能带来的各种可能性，来激发人类的创造力和创新能力。
03
如何步入不被机器支配的世界？
刘兴亮：这场发布会当中有一个叫格雷斯机器人，它说不会取代任何现有的工作，但实际上它涉及的岗位本来是由人类来负责的，所以不这个说法是不是矛盾的？
「我将与人类一起工作，提供帮助和支持，并且不会取代任何现有的工作，」一个穿着护士制服、留着可爱波波头的医疗机器人说。 「格蕾丝，你确定吗？」该机器人的制造者Ben Goertzel问到。 「是的，我确信，」格蕾丝坚持说，房间里充满了紧张的笑声。
段伟文：如果我们将人与机器对立起来看，不可避免地会有一个过程，即机器不断取代人。
但如果将机器和人视为一个整体，机器人或人工智能所做的是测算、推算或程序化、模块化和模式化的操作，它的目的自动化加工，而人在总体上对事物进行布局、规划、判断，所以，未来可能人的主要工作是找到先进的工具和技术，然后将其应用到新的领域中。
以送餐机器人和外卖员为例，像送餐机器人还可以用在哪些场景中，外卖员又可以转向哪些场景？回答这个问题，关键在于我们是否能够放飞自己的想象力（找到对应的场景）。
从这个角度来看，我认为格雷斯机器人说“与人类一起工作，不会取代现有工作”不矛盾。
刘兴亮：有什么办法，可以让人类长期与机器共存，不会被 “优胜劣汰”？
段伟文：人类现在的确面临着巨大挑战，并且涉及整个人类文明。
过去，因为拥有所谓的“通用智能”，以至于自我感觉人类具有某种优越性。比如下棋这件事，我们可能会觉得懂得下象棋、围棋，未来有新的游戏出现，也能过轻易上手，但是 AlphaGo在这个领域的表现改变了这种局面，让人类开始感到担忧，不再有这种智能上的优越感。
随着AlphaGo、ChatGPT在语言、艺术等更多领域应用，我认为人的智能在这个领域就会变得不再重要，这样人就不具备竞争优势，进而就会面临被取代的问题。
比如，比如法律、医学专家，所掌握的技能都是长期教育训练而来，而现在AI可以通过相对短期训练就具备类似医生诊断和咨询服务的能力，而这种现状也要求我们继续学习，避免被淘汰，这个过程中传统的教育方法可能也将不再奏效。
这也提醒了我们对知识、教育的理解，以及对未来职业技能需要有新的认知——如果要避免被技术取代的命运，每个人，甚至整个人类，都需要不断的进行“战略转移”，考虑未来10年、20年技术发展的可能性，既要为短期就业做准备，也要为长期职业生涯储备相应最新的知识，而这种新的知识和教育方式，还会因为行业、领域的不同而有所差异。
未来，我们需要一种知识和教育的战略——为每个人的教育提供更加动态、多元和适应未来需求的方式。
这是因为，人类进化速度呈现出爆发趋势。从旧石器时代到新石器时代，经历约100万年的历史，然而，数字技术、互联网、人工智能等等，在最近30年已经发生翻天覆地的变化。这就好比坐在一个不断膨胀的气球上，开始时我们可能还能够掌握局势。然而当气球膨胀到一定程度时，我们无法预测它会膨胀到什么程度。
因此，为了成为一个适应这个世界，成为一个有文明修养的人，我们需要更快地适应技术的爆发性增长，需要思考如何进入一个不受机器支配的世界。
04
AI的两面性：现实与虚构
刘兴亮：现在AI伴侣的概念很火，人类真的可以跟机器人谈恋爱吗？还是说只是一个概念，纯粹是一种噱头？
段伟文： 这个不是噱头，虽然情感在哲学上是一个抽象的问题，但如果将机器人或聊天机器人视为一个人或在特定情感和需求下进行交流的对象，它可能会越来越真实，相关技术已经发展了很多年。
在计算机领域中，存在一项专门的技术叫做情感计算。情感计算技术下的机器人虽然本身并不具备情感，但它的表达方式会让人感觉它具备情感能力。
过去曾有一个交友网站，上面有30万男生和7、8万女生的账户，这些女生账户有一个特点——会在需要续费前一天晚上12点与男生开始聊天，聊到凌晨用户通过续费，建立长期聊天关系，而在用户续费之后这些女生就消失了，后来被发现它们全都是聊天机器人，这个网站利用了这个把戏，赚了不少钱，尽管当时还没有大模型和深度学习的AI技术，但却已经能够实现这样的效果。
情感机器人的优势是不需要休息，可以随时陪伴你聊天，它可以将语言和情绪表达进行分类，甚至能够逐渐试错，在AB测试中不断优化这个系统，完全迎合用户的喜好。
因此，现在有很多被称为AI恋爱机器人的产品，很多人认为与其恋爱比与真人恋爱更有趣，因为它们对人（的情绪）非常照顾。
回到情感上来，这可能是人类认知中最难把握的问题，也是心理学在很多方面还没有完全理解的领域，所以用户仍然需要特别警惕，尤其是如果使用AI进行情感辅导或对人的情感进行治疗，必须非常小心，因为即使是精神科和心理学本身也不是完善的科学，使用AI来调节人的情感或进行精神治疗，存在出现偏差的可能性。
刘兴亮：现在AI机器人能送餐，可以成为程序员、作家、画家，未来是否会出现AI哲学家或者机器人哲学家？
段伟文：能否出现AI哲学家或者机器人哲学家，我觉得需要满足三个方面：发展概念、辅助论证、产生有启发性的思想。
首先是发展概念。当我们思考一个问题时，会有概念和层次，并将问题分解为不同的方面和相关情况，目前人工智能已经能够实现这一点。
其次是辅助有条理的思维论辩和论证。目前已经有很多研究，包括法律方面的辩护和辩论，虽然能力还比较机械化，但也可以使用人工智能来实现。；最后是能够产生有启发性的思想，比如对这个世界的一种洞察或观察。如果让AI在我们的世界中找到一些此前想象不到的表达方式，然后进行思想创作，那将是非常有意思的。
至于未来的AI哲学家，它可能与现在的哲学家不太相同，它能够吸引我们的 前提在于——能够想到人类从未想到过的东西。
在我看来，在哲学这件事情上，如果每个人都与机器人、人工智能合作，可以获得更有条理的表达，更有力的论证，让我们的思想更加有趣。同时，也能够体察到人生的一些感悟，在面临挫折时找到慰藉，在困难时看到希望，我认为这是非常有意义的。
不过，古典思想家取得的成就与其特殊经历有关，文艺浪漫的思想家可能与对人生的苦难或洞察有关，这是机器人所欠缺的，在我看来，机器人和人工智能不再只是一种技术，它们的发展取决于我们每个人如何以自己的方式去激活它们。
刘兴亮：AI哲学家有没有可能超越亚里士多德、苏格拉底甚至孔子这样的大哲学家，大思想家？
段伟文：人类文明有可能出现一种机器思想者，实际上是一个未来的神话，这是可以想象的，而在它真正出现之前，我们可以用戏剧或模仿的方式构建一些假想的哲学机器人思想家。
我们现在的生活单调而缺乏想象力，要更加勇敢地发挥丰富的想象力，创造出有趣的事物，而通过创造和表演，也可以激发对未来的想象。
我们现在是处在这样一个时代——可以看到人工智能既是现实的，又是可以虚构的。所以，要学会区分每一轮科技浪潮的真实和虚假，但无论是真实还是虚假，我们应跟随其中并站在浪尖上，才能体验其中的风景。
AI孔子动画图像，来源丨网络
回到最初的话题，现在人工智能或深度学习机器人，它们都开始举办发布会了，这恰恰意味着人类的文明就是一场戏剧，我们要学会做导演，并扮演其中的角色，而不必担心是否会被这些机器人欺骗，因为它们一样都是戏里的角色。
最后我想说，让我们玩得开心一点，在人工智能娱乐你之前，你应该先逗它们玩，而不必担心它们会欺骗你。
免责声明：此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与极客网无关。文章仅供读者参考，并请自行核实相关内容。投诉邮箱：editor@fromgeek.com。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
