中国电信专家：与国产芯片厂商联合打造信创大模型训练平台

7月20日消息（岳明）在日前召开的“中国互联网大会--国家新型互联网交换中心与算力网络融合发展论坛”上，中国电信大模型技术专家李康作了题为《大模型带来智算大算力发展》的主题演讲。

李康指出，我国智能算力总体呈现出快速增长趋势，2022年国内服务器销售72.55亿美元，预计2025年销售额可以达到121亿；2022年智算算力整体规模在268 EFlops，预计2025达到922268 EFlops。他认为，智算算力快速增长的背后，大模型功不可没。

大模型带来大集群智算中心需求。大模型训练需要大算力，比如GPT-3，1750亿的参数，使用1万张GPU卡训练14.8天。现在整体市场是玩家堆参数、堆性能的状态，很多玩家涌入市场，市场的算力缺口非常大。百亿、千亿参数的大模型只是开始，万亿参数的大模型将慢慢的会成为主流。“从大模型发展来说，大力出奇迹，万亿参数不是终点，也只是一个阶段。”

当前，国内算力是刚需，现在有一些厂商把大模型基模放到海外去训练，训练回来之后，在国内进行微调。但是，受到数据出境限制，其实这种效果是不太好的，尤其是涉及到比如行业大模型、专属大模型训练，这些数据不能出域。针对这些特点来说，这些训练只能在国内进行，因此国内的训练算力需求的发展是非常旺盛的。

李康表示，大模型的训练和推理有两个特点，总体需求呈现往上提升的状态。训练算力，因为当前大模型的爆发，训练算力属于飙升的状态。但是随着通用大模型市场趋于饱和，它的增长曲线也会逐渐放缓。但是推理算力不一样，推理是稳步上升的曲线，现在大模型市场落地还处于初步起步阶段，所以现在推理算力需求没那么旺盛。“我们预计2025年推理和需求达到相当，随后推理算力反超训练算力。”

李康指出，目前英伟达依然是智算算力的供给主力，国产的GPU也是加速追赶。2022年，国内AI芯片的主要份额英伟达占82%，这取决于它的非常强大的存在，尤其是早期性能和早期的大模型框架使用了CUDA架构，所以有天然的适配性。它的生态目前来说是无法被击破的，但是国内现在也在发展，尤其是一些头部大模型商研究机构，已经在开展国内芯片的适配工作。比如说华为就派了特战队到大模型厂商现场进行适配需求，适配做大模型训练。电信也会与国产芯片厂商联合打造信创大模型训练平台，支持开创信创大模型。

中国电信专家：创新算力供给模式，实现全网资源调度服务大模型市场

在日前召开的“中国互联网大会--国家新型互联网交换中心与算力网络融合发展论坛”上，中国电信大模型技术专家李康作了题为《大模型带来智算大算力发展》的主题演讲。

李康指出，算力供给模式有三种：第一种是公有云模式，算力供给以公有云的模式为主，对于基础大模型的训练，玩家都在堆性能和参数，大力出奇迹。第二种数据不能出域的行业训练和推理，因为数据不能出域，而且对于训练有强大的要求，并且这些行业客户具有一定资金能量，这种是以私有云的模式进行补充。第三种是对于数据不能出域，本地可以进行微调和对齐的需求，以移动算力模式为主。比如说移动算力车、移动手机箱就可以满足需求。

李康表示，现阶段全国智算需求的地域，主要集中在京津冀、江浙沪、粤港澳和川陕渝。但是，全国整体算力需求和供给地域是不均，所以调度会成为建设重点。中国电信会依托云网交换中心基础设施，实现全国算力调度服务大模型市场。

据李康介绍，中国电信在大模型市场的整体布局有两部分：首先，布局全网算力，电信拥有非常丰富的IDC资源和专网资源，针对2+4+31+X的算力中心布局，建设模式可以提供大集群式的集中算力和区域算力、边缘算力、移动算力，依次满足不同客户的需求。其次，布局大模型市场，进行行业洞察并规划商业模式，比如提供专属服务模式给客户进行定制，可以提供SaaS和API模式，或者是和合作伙伴联合生态打造MaaS平台，提供大模型工具。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。