极客网·极客观察(朱飞)7月24日“千模大战”时代,算力与数据成为大模型“竞争”的核心战场。不过对于广大中小企业和组织来说,大模型对计算资源的需求、超百亿甚至千亿级的参数规模、体系架构设计的高难度,提升了其迈入行业大模型应用的门槛。然而大模型的发展不会永远停留在模型参数的叠加和算力的堆砌,如何将大模型与企业实际应用场景相结合才是引爆未来价值的增长点。
将通用模型和各领域专有知识数据结合,企业不必从零开始构建基础大模型,而是在已有大模型基础之上,融入自身领域行业知识,训练生成行业专用大模型,通过实践推理反哺提升专用大模型能力,向垂直化、行业化发展是大模型技术落地应用的优选方向。然而对于企业来讲,基于云端大模型训练\推理存在数据安全风险;基于本地化训练\推理,面临安装部署繁琐、复杂、硬件资源使用效率低、成本高昂的问题。那么,到底该如何降低企业大模型的部署和使用门槛呢?
7月14日,在大模型时代AI存储新品发布会上,华为面向行业大模型训练/推理场景,重磅发布FusionCube A3000训/推超融合一体机,2小时即可完成开局,真正做到开箱即用。整柜采用存算分离架构,存、算可以灵活独立扩展,帮助企业最大化降低安装、部署门槛。内置OceanStor A300高性能存储节点,实现AI大模型训练、推理加速,速度快人一步。
一站式方案,行业大模型交付新模式
FusionCube A3000训/推超融合一体机针对百亿级模型应用,集成存储节点、训/推节点、交换设备、AI平台软件,以及管理运维软件,免去大量适配调优、系统搭建的成本,为大模型伙伴提供“拎包入住”式的部署体验,2小时内即可完成部署。预制业界主流AI模型,即开即用,即用即开发。
FusionCube A3000训/推超融合一体机采用存算分离架构实现训/推节点和存储节点解耦,支持两种交付模式:包括华为昇腾一站式方案;以及开放计算、网络、AI平台软件的第三方伙伴一站式方案。前者全栈采用华为自研OceanStor A300高性能存储节点、计算、网络产品及AI平台软件,能够最大化发挥AI软硬件协同的澎湃性能;后者同样基于华为OceanStor A300高性能存储节点,但广泛支持第三方GPU算力、交换机设备和AI平台软件,用户可根据自身行业特性和场景应用按需选择。
高集成更有高性能
简单对比不难发现,这两种交付模式有一个共同点,即均基于华为自研存储节点OceanStor A300构建。“大模型时代,数据决定AI智能的高度。作为数据的载体,数据存储成为AI大模型的关键基础设施。”换言之,AI大模型时代,需要新的AI存储产品提供数据“最优解”。内置于FusionCube A3000训/推超融合一体机中的OceanStor A300高性能存储节点,正是华为数据存储为大模型训练推理创新构筑的数据之“基”。
OceanStor A300采用NFS over RDMA高速低时延协议,显著降低I/O延迟;通过国内首创NFS+协议,实现多链路聚合,大幅提升主机访问性能;通过Flashlink®盘控配合智能算法,达到永快一步平稳性能。
得益于此,根植于OceanStor A300之上的FusionCube A3000训/推超融合一体机,存储单节点支持高达50GB/s的带宽以及180万IOPS,性能数倍领先于业内同类产品。
黑科技加持实现资源共享,大幅提高GPU使用效率
用户搭建深度学习训练环境,需要安装Python、TensorFlow、GPU驱动等,如果要从开发环境到测试环境,再从测试环境到生成环境,涉及环境迁移过程中需要花费大量精力来保证环境的一致性。
容器带来的标准化能力可以将相关软件一并打包到镜像中,一次构建,即可在不同平台运行,极大降低安装、部署的复杂度;同时各容器间相互隔离,可实现多训练框架并存,而且每一个框架都可以独立进行升级而不会影响其他业务,降低日常运维的难度,让客户可以将更多的精力集中在AI训练上。
华为通过高性能容器软件,实现CPU和GPU等资源的池化共享。传统的IT系统会为每个应用预留一定的物理算力资源,也意味着CPU或GPU资源将被独占,资源的利用率通常低于40%。而通过容器应用共享CPU与GPU的资源池,资源的利用率将提升至超过70%,帮助企业达成降本增效。
面向新一轮AI浪潮的大模型时代,华为数据存储持续突破黑科技,以创新数据基础设施为数据智能应用筑“基”,开创行业大模型一站式交付新模式,大幅降低AI大模型的部署和使用门槛,开启AI赋能千行百业的加速度!
春风来不远,只在屋东头!FusionCube A3000很近,“AI”不远!
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- "以智赋网"关键一跃!华为首发Ambient Site构建无线智能化底座
- 硬科技产业观察之端侧AI:AI算力随身释放千亿价值
- “智网慧城”计划启动全球招募,以智赋网成MBBF 2024焦点
- 英伟达最亲密的伙伴SuperMicro股价大跌,对AI产业影响几何?
- 请回答MBBF 2024:关于移动AI时代的一切
- 高通ARM争的是什么?定制设计威胁到ARM生命线
- 到底要不要分拆?英特尔和美国都陷入了挣扎
- 讯飞星火与华为数据存储强强联手,“以存强算”助力AI集群算力利用率飙升30%
- 原生鸿蒙发布:移动操作系统的一大步,中国科技自主创新的一大步
- 阿斯麦订单“腰斩”股价暴跌16%,半导体产业寒冬来了?
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。