12月26日讯 （记者 叶志端）人工智能（AI）早已在不知不觉中融入了我们日常生活、工作和学习等各个领域。比如我们平时在互联网上接收到的各种信息或广告推送，平时在家庭中能用到的亚马逊语音助手Alexa、天猫精灵和苹果siri，还有这几年比较火爆的无人驾驶技术，都是人工智能在现实中的应用。
虽然人工智能为人类社会带来了进步，为我们带来了便携，但伴随着人工智能所带来的危险与未知数，人工智能真的智能吗？
12月26日讯 （记者 叶志端）人工智能（AI）早已在不知不觉中融入了我们日常生活、工作和学习等各个领域。比如我们平时在互联网上接收到的各种信息或广告推送，平时在家庭中能用到的亚马逊语音助手Alexa、天猫精灵和苹果siri，还有这几年比较火爆的无人驾驶技术，都是人工智能在现实中的应用。
虽然人工智能为人类社会带来了进步，为我们带来了便携，但伴随着人工智能所带来的危险与未知数，人工智能真的智能吗？
Alexa的回复让丹妮·莫瑞特感到十分震惊与害怕。众所周知，亚马逊的语音助手Alexa行销全球各地，为亿万家庭服务。事情发生后，亚马逊官方迅速回应称，Alexa确认存在“bug”：Alexa可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章，并导致了此结果。亚马逊在回应中确认已经修复了此“bug”。
不过，令人奇怪的是，丹妮·莫瑞特专门搜索了语音助手Alexa自己检索的那一篇网上的文章，但她查询发现，语音助手Alexa所说的那篇文章里面并没有“建议自杀”等相关内容。
在此之前，亚马逊语音助手Alexa也发生过一些“诡异”的事件，比如，Alexa时常发出瘆人的笑声，还拒听用户指令。“那笑声根本不是Alexa的声音，听起来就像是真人。”
无人驾驶车祸不断，AI机器可靠吗？
无独有偶，去年3月，Uber（优步）的一辆无人驾驶汽车（沃尔沃公司生产的XC90型汽车）在进行路测时，撞死了美国亚利桑那州坦佩市一名正在马路上行走的女士。事故发生时，她正在一条四车道道路的人行道外行走。
当时，优步的车正处在无人驾驶模式，时速为65km/h，驾驶座上还坐着一位司机。
这并非无人驾驶汽车的第一次严重事故。2016年5月，在美国佛罗里达州威利斯顿附近，特斯拉的一辆Model S汽车在无人驾驶状态下与一辆白色卡车相撞，特斯拉驾驶员约书亚·布朗在车祸中不幸丧生。
如果把一切交由AI来判断和执行，终将酿成大错。近日，美国国家运输安全委员会（NTSB）召开会议，正式公布2018年3月Uber自动驾驶车祸事件的原因。NTSB将车祸的主要原因归咎于Uber脆弱的安全文化，即人要负主要责任，技术不负责任。事发时，安全员仍在看电视而非及时采取措施以扭转局面，Uber也没有开启紧急制动系统。因此，此次车祸主要原因在人，而非技术。
Uber公司的安全文化缺失，对人工智能的盲目自信，都使得车上的安全员放松警惕，未注意车辆行驶的情况，而是放心大胆地在车上看视频，以为把一切交给智能机器就能高枕无忧。
人工智能是把双刃剑，需把好“安全”关
看到这里，我们不禁要问了，什么才是真正的智能？或者说，用户需要的是哪种智能？答案应该是安全，不侵犯隐私，最大程度为为用户提供便携。
在第二届世界智能大会上，360集团董事长兼CEO周鸿祎表示，人工智能本身就存在安全问题，我们必须要审慎以待。无人值守系统，它们都有安全漏洞的风险，一旦被网络劫持，将带来严重的安全问题。人工智能所依赖的传感器、数据分析和使用的开源软件等都可能存在安全隐患，比如传感器是可以被破坏的，系统也是可以被病毒入侵的。人工智能还有一个问题，现在的人工智能还只是通过大量数据堆积的概率判断系统，远远称不上真正的智能。
知名物理学家斯蒂芬·威廉·霍金曾发表演讲称：人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情。他认为，人类需警惕人工智能发展威胁。因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。霍金的语言让人们对人工智能充满警惕。人工智能将会极大程度地改变这个世界，随着我们掌握了越来越多强大的技术，令我们无法掌控科技的恐惧也弥漫在世人心中。
人工智能正可谓一把“双刃剑”，在井喷式发展的前景下，我们更要认清其利弊，防止人工智能的错误给人类带来致命伤害，尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。
如今，随着人工智能技术的快速发展，针对人工智能加强监管的呼声日益高涨。北京大学物理学院大气与海洋科学系教授杨海军提出，人工智能、5G等技术将推动新一轮革命，必须全面认识人工智能安全问题。上海市经信委副主任傅新华表示，我国是世界人工智能安全与治理的重要贡献者，必须高度重视人工智能安全发展，避免无序发展对国家安全、社会安全、个体安全等带来系统性风险。
值得关注的是，国内首个AI安全与法治导则《人工智能安全与法治导则（2019）》日前正式发布。该导则从算法安全、数据安全、知识产权、社会就业和法律责任等五大方面，为科学预判和管控人工智能发展的安全风险提出策略，保障人工智能的安全与法治，守卫人工智能发展的“安全基因”。
- 蜜度索骥：以跨模态检索技术助力“企宣”向上生长
- 消息称塔塔集团将收购和硕印度iPhone代工厂60%股份 并接管日常运营
- 苹果揭秘自研芯片成功之道：领先技术与深度整合是关键
- 英伟达新一代Blackwell GPU面临过热挑战，交付延期引发市场关注
- 马斯克能否成为 AI 部部长？硅谷与白宫的联系日益紧密
- 余承东：Mate70将在26号发布，意外泄露引发关注
- 无人机“黑科技”亮相航展：全球首台低空重力测量系统引关注
- 赛力斯发布声明：未与任何伙伴联合开展人形机器人合作
- 赛力斯触及涨停，汽车整车股盘初强势拉升
- 特斯拉首次聘请品牌大使：韩国奥运射击选手金艺智
- 华为研发中心入驻上海青浦致小镇房租大涨，带动周边租房市场热潮
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
