昇腾AI基础软硬件全面升级,以更开放易用的平台使能百模千态

[中国,上海,2023年9月22日] 华为全联接大会2023期间,华为计算产品线总裁张熙伟发表了“算力为基,共筑智能新生态”主题演讲。他表示,华为深耕算力底座,聚焦鲲鹏、昇腾基础软硬件创新,携手伙伴开发者,打造更放易用的平台,共筑更高效协同的生态,使能百模千态,共赢智能未来。

knote

华为计算产品线总裁张熙伟发表主题演讲

昇腾全面、深度开放,选择更灵活,使能开发者构筑差异化竞争力

昇腾面向算子、框架、加速库和大模型全面开放,广泛支持、兼容业界生态,为大模型创新提供更多灵活选择。提供丰富的融合算子,如主流的FlashAttention、FFN等,可在昇腾上实现性能倍级提升;全面支持PyTorch、飞桨、昇思等业界框架,同时PyTorch社区今年10月将发布2.1版本,原生支持昇腾;除了兼容业界主流的DeepSpeed、Megatron外,昇腾自主构建了大模型加速库AscendSpeed,提供丰富的大模型训练并行能力。同时,HuggingFace社区最新的Transformers、Accelerate等代码仓已原生支持昇腾,开发者直接下载,安装即用。目前已有50+主流的基础大模型基于昇腾训练迭代,9家伙伴发布了大模型训推一体机,为行业提供更加丰富的选择。

blank

昇腾以开放移动的平台使能百模千态,高效协同的生态赋能千行万业

为支撑开发者孵化出更高性能的自定义算子、加速库,昇腾进一步开放平台能力,将于年底新增开放底层运行时,开发者可直接使用NPU上的核资源、控制流、任务调度等接口,原生构建差异化竞争力。在编程上,今年5月发布的Ascend C编程语言,简化开发逻辑,匹配开发习惯。通过持续迭代,当前支持混合编程与编译,增加归一化、三角函数等API,300余行大算子的开发周期从2人月降到2人周,大幅提升大模型创新效率。

ModelZoo 2.0发布上线

为更好的发育大模型生态,昇腾社区全新升级ModelZoo 2.0,在已提供数百个预训练模型的基础上,年底前将持续上线40多个昇腾亲和的预训练大模型,同时支持各类大模型在线的功能体验 与性能对比,开放全流程的大模型开发工具与套件,支撑开发者快速实现大模型的二次开发。

knalb

ModelZoo2.0正式上线昇腾社区

超级流水线全流程使能大模型创新落地

大模型开发是一个复杂的系统工程,昇腾大模型超级流水线,以友好的大模型开发环境和统一的全流程工具链,使能大模型易开发、易迁移、易部署。昇腾大模型开发套件,轻量代码使能大模型极简开发;MindStudio全流程工具链使能大模型敏捷迁移,周级实现精度调试和性能调优;昇腾推理引擎统一推理业务全流程入口,支持多种推理方式使能应用快速部署。

鼓励昇腾原生创新,加速伙伴商业共赢

华为持续围绕科研创新使能和大模型促进两大计划,鼓励开发者基于昇腾进行根技术原生创新,赋能伙伴打造更具竞争力的大模型场景解决方案,共同打造更紧密协同的人工智能新生态。

AI赋能openEuler更智能,以openEuler使能AI更高效

大模型让欧拉更智能。欧拉作为首个广泛支持AI的开源操作系统,正在颠覆传统的命令行交互方式。华为使用ChatGLM基础模型,基于大量欧拉操作系统的代码和数据,训练出EulerCopilot,初步带来代码辅助生成、问题智能分析、系统辅助运维等功能。以前需要多领域专家协同解决的问题,未来都可以交给EulerCopilot

欧拉使能AI更高效。欧拉通过异构资源统一管理与调度,实现CPU和XPU的深度融合,以更全局、更均衡和更精细化的视角统筹内存和算力,充分挖掘空闲资源,提升有效利用率,进而提升AI训练和推理性能。

鲲鹏软硬件平台进行创新升级

华为持续升级鲲鹏软硬件平台。天池架构支持伙伴面向千行万业,快速推出差异化机型。基础软件方面,openEuler全场景协同能力持续增强,进一步提供负载动态感知等关键能力,做到开箱即优。同时,升级鲲鹏BoostKit和DevKit 两大套件,八大主流场景性能持续提升,通过四大场景化SDK助力鲲鹏高效原生开发,更好的赋能伙伴,服务用户。

华为全联接大会2023(HUAWEI CONNECT 2023)以“加速行业智能化”为主题,邀请思想领袖、商业精英、技术专家、合作伙伴、开发者等业界同仁,从商业、产业、生态等方面共同探讨如何加速行业智能化。更多信息,请参阅华为全联接大会官网:https://www.huawei.com/cn/events/huaweiconnect

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2023-09-22
昇腾AI基础软硬件全面升级,以更开放易用的平台使能百模千态
[中国,上海,2023年9月22日] 华为全联接大会2023期间,华为计算产品线总裁张熙伟发表了“算力为基,共筑智能新生态”主题演讲。

长按扫码 阅读全文