蒋洁：让智能产品回归工具本质

作者简介 | 蒋洁 南京信息工程大学法政学院副教授、中国人工智能产业发展联盟政策法规组副组长

“地球上的一切工具和机器，不过是人肢体的知觉的发展而已。”

——爱迪生

“人类对自己大脑的了解还不到15%，我们怎么让机器像我们一样思考？……机器永远不可能战胜人类，因为机器只有Chip，人类有Heart。”

——马云

“人工智能是工具，不是一种智慧形式。”

——李开复

我们生活在一个加速发展的新时代。全球知名的未来学家雷·库兹韦尔（被誉为“在预测人工智能上最厉害的人”）曾指出，“得益于指数级增长所带来的爆炸性威力，21世纪人类可取得的进步，在过去需要2万年。”其中翘楚正是人工智能技术及其应用。

技术迭代开荒的后工业互联网情境中，从比尔·盖茨、埃隆·马斯克等业界大佬到普通的街头行人，既受益于智能产品的巨大红利，又对人工智能发展过程中潜在的威胁充满忧虑。

“超人工智能的‘奇点’会不会来？”

“性别仿真机器人对婚恋关系的威胁有多大？”

“工业机器人是否将导致大规模的技术性失业或普遍化的零工经济？”

从官方到民间，社会各界孜孜不倦地反复探讨上述议题。

事实上，智能产品还处于接近“人工智障”的初期阶段，攀登通用人工智能的峻岭险峰尚待解决大量技术难题，更不用说云雾缭绕的超人工智能了。当务之急是集中力量搭建不同组织和企业之间全面协同的技术研发平台，提高智能产品突破人类极限的工具能力，挤掉AI的巨型泡沫、缓解谷仓效应，避免历经“三起两落”的人工智能遭遇第三次寒冬。适应社会发展现实需要的国家政策法规和社会伦理规范应当为人类辅助工具的智能化建设保驾护航，而不是忙于解读和应对在遥远的未来具有可能性的失控风险。

一方面，技术产业界亟待弱化智能产品的拟人倾向。近年来，众多研发企业和技术人员投入海量资源提升智能产品的拟人程度，“情感交互”成为突出卖点。从亚马逊的Echo、软银的Pepper到微软的小冰等等，开发者致力于提高智能产品对于情感和情绪的计算和表达能力。仿真机器厂商更是不计成本地企图在现实中落地“艾娃”（《机械姬》的主角）。2018年，日本东京机器人展会上登台的仿真美女与人类的外形相似度高达95%并具备“带有情感”的人机交互能力。

亚里士多德曾言，“大自然的每一个领域都是美妙绝伦的”。人与自然、人与社会以及人与自我意识的和谐相处必须做到尊重客观规律。“生命，那是自然会给人类去雕琢的宝石。”（诺贝尔）对于迄今所知寥寥的“人之为人”的影响因素应当有所敬畏，至少在技术产品的智能化程度较低时期有必要限制从外在形态拟人化到情感算法的巨额投资，转而将人力和物力资源注入提升智能产品工具技能的研发活动。

同时，拟人化的智能产品在一定程度上背离了人类利用外界物体作为身体功能延伸的初衷，威胁社会安全，影响居民生活。首先，幼儿的心理发展尚不成熟，对于环境价值的判断和伦理准则的衡量都处于可塑状态，富有易变性的情感容易受到外物支配。嵌入情感算法的早教类智能产品（包括附带类似功能的智能音箱等）有可能导致幼儿对自然、对人类、对道德、对审美、对情绪、对理智等的错误认知。其次，依据我国《婚姻法》、《老年人权益保障法》等规定，成年子女应当承担赡养父母的义务。“赡养”一词包括了经济供奉、生活照料和精神慰藉等多重含义。虽然国家大力支持“智慧养老”，由智能看护、远程医疗、智能家政服务等组构的智能化情景精准贴合居家养老需求。但“亲情互动”的服务功能设置在带给空巢老人短暂的虚拟慰藉的同时，也在某种程度上降低了成年子女妥善、及时地履行陪伴义务的责任感。再次，“爱是恒久忍耐。”夫妻双方在共同生活中应当爱情专一、感情忠诚、互相忠实于对方。拟人程度越来越高的性别仿真机器人使得人们沉浸于虚拟的亲密关系，不仅威胁传统婚姻关系的专一性和排他性，“不费心、不烦心、不闹心”的人机体验还会变相提升参与者对于现实配偶的要求，变异为婚姻家庭的不稳定因素。最后，具备某些特殊功能的嵌入情感和情绪算法的高端智能产品可能会被应用在涉恐、涉暴、诈骗等违法犯罪活动中，严重威胁国家安全和社会秩序。

另一方面，社会各界亟待聚焦智能产品的工具本质。基于弱人工智能的多样化产品均是辅助人类活动的新型工具，相应的智能化程度远未达到人们的心理阈值。当前的设计、生产、销售和使用的整个运作流程都应当加强工具意识，而不是倾力解决涉及多元内在价值标准的低概率难题。

以自动驾驶为例，从1级辅助驾驶到5级完全自动驾驶，本质上都是改善出行的创新工具。回看全球实地模拟、仿真测试和实践应用中频频发生的各类事故，究其原因，基本是传感器系统、处理算法和高精度地图存在短板。特斯拉的屡次追尾事故和Uber近期的自动驾驶车辆致行人死亡事件在很大程度上是由于驾驶辅助系统的配套设计不健全（如使用频谱偏窄的微波雷达）导致的视觉识别错误。有限的物理承载设备、配套基础设施和软件技术水平，导致了当前的自动驾驶系统无法及时、精准地识别真实交通环境中千差万别的障碍物，更不足以高效预判和从容应对其下一步行动。虽然再完美的技术都有失控风险，类似“电车难题”等探讨具有一定的社会意义。但智能产品的工具本质与现实困境表明，当务之急是发展5G网络、改进图像识别技术、构建封闭交通环境、完善相应处理算法，避免难以感知或识别的偶发因素。“让上帝的归上帝，工具的归工具”，或为弱人工智能有序发展的良性抉择。

【后记】 当然，一切事物都具有两面性。遥远的未来中，家庭或许不再是社会的基本细胞，传统婚姻关系亦会逐渐消失，“独处”将成为个体存在的基本范式。而在持续技术改进后完美嵌入复杂交通环境的完全自动驾驶系统依然发生了百万分之一概率的技术失控，真实地面临道德选择的困境。我们需要对这些问题保持足够的谨慎，却大可不必为此放缓人工智能技术研发与应用的步伐。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。