企业如何快速实现AI应用落地？红帽给出“三步走”AI部署路径

11月4日消息，过去两年，全球资本大举投入AI基础建设，目前AI的基础架构已经基本完善，但许多企业应用仍未落地。不少企业曾尝试用大模型提升效能，但发现大模型不适合生产场景，因为一点小错就可能带来风险。

在2024红帽论坛上，企业级开源解决方案提供商红帽公司展示了其如何用开放混合的AI和开源方法加速企业AI应用。红帽全球副总裁兼大中华区总裁曹衡康表示，用混合开放的模式来开发AI已成为一个必然趋势，红帽在基础架构上采用混合云模式，支持本地数据中心、公有云和边缘计算环境的运行，并支持开源和闭源模型，从而为企业提供灵活选择。

在过去几年，红帽提出了“小模型”概念，即专属模型（faithful purpose），让企业的数据驱动AI模型的生成，确保模型稳定、安全，并符合企业的特定需求。同时还引入“社区版”小模型，通过合成数据大幅减少对真实数据的需求，将数据量降至原来的千分之一。这种方式不仅降低了算力需求，节约了成本，能耗也大幅减少，对环境更加友好。

场景应用是ISV（独立软件开发商）和应用供应商最擅长的领域。由于许多企业和行业都有各自的特点，红帽加速了与本土ISV及方案开发商的合作，这合作涵盖芯片和软件等方面，同时也确保红帽的开源路线在国内得到更多本土化支持。红帽大中华区资深市场总监赵文斌透露，红帽最近与NVIDIA等全球合作伙伴开展了新项目，特别是在加速场景应用落地方面。

值得一提的是，实际应用中，企业在AI预算方面非常谨慎，通常需要看到效果后才会进一步投入。对此，曹衡康表示，红帽的混合云理念鼓励客户在合适的场所部署算力，比如公司内部数据中心、公有云，甚至跨多云环境。去年红帽推出了“Unlock”理念，就是希望避免客户被锁定在特定云上，开源架构为客户提供更多弹性和自由度。

具体来看，红帽提出了“分步实施”的策略，即企业AI应用三步曲。第一步，客户可以在最小资源配置下试用开源模型和工具，比如在笔记本电脑上用CPU试跑，而不需要额外的GPU卡。

如果第一步测试效果满意，客户可以进入第二步，通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行，客户可以选择公司数据中心或外部公有云资源，这样在确认模型适合需求后，才进入第三步的大规模部署。

第三步，红帽的架构支持跨云混合部署。例如，客户可以在中国使用阿里云，在美国使用AWS，这种多云方案既灵活又经济。我们的目标是帮助客户实现最佳的投资回报率（ROI），并在每一步提供适配的支持。

红帽大中华区方案架构部总经理王慧慧介绍称，自2019年IBM成为红帽母公司以来，IBM在开源方面的投入愈发积极，在工作方式和平台选择上越来越倾向开源。IBM将其最初的Watson平台（现称Watson X）逐步开源，接下来IBM和红帽将共同致力于维护开源模型的持续迭代。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。