华为徐直军:企业大模型发展难点颇多 云服务是更合理选择

9月19日午间消息(蒋均牧)面对一窝蜂堆算力、言必大模型的企业人工智能发展现状,华为轮值董事长徐直军在华为全联接大会2024上旗帜鲜明地指出,不是每个企业都需要建设大规模AI算力、都要训练自己的基础大模型,也不是所有的应用都要追求“大模型”。

首先,大规模AI算力建设存在着机房改造难、性能发挥难、运营维护难等难点。大规模AI算力集群堆供电、散热等数据中心机房环境要求高、改造难度大,同时随着AI算力需求的持续增加和AI服务器的升级换代,机房将面临持续改造;AI硬件迭代速度快,平均一到两年就有新的硬件产品推出,受限于诶个代际的算力规模,企业需要多个代际产品混合使用来训练一个大模型,资源调度复杂,带来性能“木桶短板”问题,新一代产品性能难以充分发挥;AI技术还处于成长期,技术变化快,多代际产品共存,对技能要求高,导致运营维护困难。

其次,基础大模型训练面临数据准备难、模型训练难、人才获取难等问题。基础大模型预训练数据量进入10万亿tokens量级,这对于企业来说,不仅意味着高成本,同时是否能获取到足够的数据量也是挑战;基础大模型参数量在持续增大,模型迭代和优化难度大,通常需要数月到数年时间完成模型迭代训练,影像AI尽快赋能核心业务;基础大模型涉及的相关技术每天都在更新,具备实战经验的技术专家少,对于企业来说,建立足够的技术人才资源也是挑战。

此外,从盘古大模型的行业实践来看,企业应根据不同业务场景需求匹配不同规格的模型,通过多模型组合来解决问题、创造价值。十亿参数模型面向科学计算、科研决策等业务场景以及端侧场景,例如降雨预测、药物分子优化、手机端通话助手;百亿参数模型面向NLP、CV、多模态等特定领域任务,例如知识问答、代码生成、金融坐席助手;千亿参数模型面向NLP、多模态的复杂任务以及作为中枢调度,例如信贷评估、智能投顾、多模型调度。

徐直军指出,对于很多企业来说,云服务是更为合理的、可持续的选择。华为云面向AI全栈升级,赋能千行百业智能化,让每个企业都能按需高效地训练模型和应用模型推理。华为通过持续打造昇腾云服务,让AI算力触手可及;通过不断升级ModelArts Studio模型即服务,让企业不必从零开始训练基础大模型;通过盘古大模型5.0和百模千态社区,让企业能够根据业务场景选择最适合的模型。此外,华为云还提供从理念、机制、技术到知识产权的体系化安全能力,全面保障大模型训练、推理安全。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-09-19
华为徐直军:企业大模型发展难点颇多 云服务是更合理选择
华为徐直军:企业大模型发展难点颇多 云服务是更合理选择,C114讯 9月19日午间消息(蒋均牧)面对一窝蜂堆算力、言必大模型的企业人工智能发展现状,华为轮值

长按扫码 阅读全文