AI是企业的朋友还是敌人？集成genAI的挑战与机遇

极客网·企业级IT 6月13日 SolarWinds公司最新发布的2024年IT趋势报告《AI：朋友还是敌人？》显示，尽管90%的IT专业人士希望在其组织中实施生成性人工智能（genAI），但超过一半的人对集成、安全和隐私问题表示担忧。

在对大约7000名IT专业人士进行的在线调查中，SolarWinds公司发现，尽管几乎所有受访者都渴望采用genAI和其他基于AI的工具，但不到一半的受访者认为他们的基础设施能够适应这项新技术。只有43%的受访者表示他们相信公司的数据库能够满足AI增加的需求，而更少的人（38%）信任用于开发这项技术的数据或训练的质量。

报告指出，隐私和安全问题被认为是genAI集成的主要障碍，IT专业人士特别呼吁增加政府监管来解决安全（72%）和隐私（64%）问题。当被问及AI的挑战时，41%的受访者表示他们有过负面经历；其中，隐私问题（48%）和安全风险（43%）是最常被提及的。

超过一半的受访者还认为，政府监管应该在打击虚假信息方面发挥作用。报告中提到：“为了确保AI的成功和安全采用，IT专业人士认识到，组织必须制定关于道德、数据隐私和合规性的全面政策，这指向了道德考虑和对工作被取代的担忧，作为AI采用的其他重要障碍。”

SolarWinds报告还发现，超过三分之一的组织仍然缺乏指导适当genAI实施的道德、隐私和合规政策。SolarWinds的技术和工程高级副总裁Krishna Sai表示：“尽管AI的讨论在行业中占据了主导地位，但IT领导者和团队认识到，这项仍在发展中的技术存在巨大的风险，这些风险因急于快速而非智能地构建AI而加剧。”

事实上，领先的安全专家预测，黑客将越来越多地针对genAI系统，并尝试通过破坏数据或模型本身来“投毒”。今年早些时候，美国国家标准技术研究院（NIST）发表了一篇论文，警告说“投毒攻击非常强大，可以导致可用性违规或完整性违规。”

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。