干货！新美国安全中心AI报告：人工智能安全优缺点及存在问题

高层速读

关键信息：新美国安全中心(CNAS)发布了一篇报告，名为《人工智能：每个政策制定者需要知道什么》，报告就AI的安全相关应用、优缺点和存在的问题进行了介绍。AI在数据分类、预测、异常探测等方面具有显著优势，但又存在脆弱、漏洞和交互故障等问题。

关键意义：CNAS希望这份报告能够为人们就如何负责任地使用人工智能来改善国家安全打下坚实的基础。

近日，新美国安全中心(CNAS)发布了一篇报告，名为《Artificial Intelligence：What Every Policymaker Needs to Know》（人工智能：每个政策制定者需要知道什么）。CNAS希望这份报告能够为人们就如何负责任地使用人工智能来改善国家安全进行健康的辩论打下坚实的基础。本文将主要就AI的安全相关应用、优缺点和存在的问题进行介绍。

本报告旨在成为了解国家安全领域的人工智能和机器学习的入门，它解释了人工智能语言和决策者需要了解的想法；探索与安全相关的人工智能应用；思考人工智能和机器学习时代的战略竞争；并讨论了人工智能革命对全球安全的间接影响。

我们正处在人工智能(AI)和机器学习全球革命不断加速和扩大的社会之中，这将对未来的经济和军事竞争产生巨大影响。人工智能和机器学习将可能导致新的工业革命，成为提高经济竞争力并创造新的财富的来源；它们将导致医学和汽车驾驶安全方面的进步；它们将提供新的虚拟培训和娱乐形式；它们可能对我们的社会和福祉产生深远的积极影响。

在本报告中，着重探讨了人工智能安全相关应用，以及优缺点和存在的问题。

AI的用途

①数据分类。AI系统可帮助进行数据分类，如图像、歌曲、医疗图像等。在许多情况下，AI系统能够比人更可靠、更准确地分类数据。

②异常探测。AI系统可以帮助探测异常行为，如欺诈性金融交易或新型恶意软件，这些系统可用于帮助人类实时监控大规模数据。

③预测。通过在大型数据集合中找到相应的模式，AI系统可对未来做出统计预测。

④优化。AI系统可用于复杂系统和任务的性能优化。例如，DeepMind使用机器学习优化Google数据中心以提高能源效率，实现了40％的冷却能量节约和15%的能效整体提升。

AI的自主性及局限性

AI的自主性包括：

①嵌入式专长。通过将专长嵌入到机器中，自动化可使技能差一些的人员表现得像技能更高的人员一样好，或者接近其水平。这对人类而言可将降低其执行特定任务的进入门槛。

②大规模操作。由于软件可以近零或零成本复制，自动化可实现专业知识的大规模运用，因此通常那些由人类在小规模层面完成的任务可通过自动化实现更大规模的操作。

③快于人类的反应时间。自动化能以快于人类的速度执行任务，对事件的反应可能比人类快很多，如股票交易所的高频交易及汽车自动刹车都是利用了该能力。

④优于人类的精确性和可靠性。基于AI的自动化能比人类更精确、可靠地执行任务。如X-47B展示了其在着陆方面的高度精确性。

⑤超越人类的耐性和警觉性。自动化系统可以不知疲倦地监视数据，密切关注核电站或监视恶意签名等计算机网络活动。

⑥不需与人类联系即可运行的能力。自主性使机器人系统不需与人类进行可靠通信就能独立执行任务。部分情况下，这种能力可用于长时间运行，如自主水下滑翔器。AI系统也有许多局限性，当前的AI系统通常缺乏理解其行为环境的能力、不能灵活适应超出其设计参数之外的新情况、以及不能使用人类认为可能是“常识”的那些知识。

AI存在的问题

①脆弱性。当前AI系统的狭义特征使人工智能具有“脆弱性”。不具备理解广泛的行动环境的能力，AI系统可能就无法理解环境何时发生了变化以及其行为是否已经不再适用。

②不可预测性。由于AI系统的复杂性，用户可能难以提前预测AI系统的行为。当AI系统是目标导向型系统或与现实世界环境互动型系统时，该问题会更加突出。

③弱可解释性。部分AI方法难以解释AI系统行为的原因。研究更具解释性的AI方法对于扩大AI系统的潜在应用非常关键。

④机器学习的安全问题和漏洞。与统计模型一样，AI系统可能也面临相同的数据拟合的挑战。另外一个问题是确保系统面对输入数据变化时具有稳健性。这些安全问题可能会引发机器学习潜在国家安全应用方面的问题。

⑤偏差。一种原因是设计人员对目标的认识出现了偏差。另外一个原因是，机器学习所使用的训练数据可能基于某种偏差认识。因此，偏差也是国家安全应用应该关注的一个问题。

⑥系统事故。由于系统各组成部分之间存在复杂的相互作用，AI也容易出现系统故障，特别是在竞争环境中该问题会更加明显。

⑦人机交互故障。如果使用人员没有充分理解系统的局限性或者系统给出的反馈，AI系统也可能会发生故障。

⑧对手挖掘机器学习漏洞。对手可能会掌握AI系统的行为方式并利用其弱点，如通过使数据中毒让机器学习不正确的行为，或通过访问训练数据等引发行为缺陷等。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。