中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战

3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改变着我们的生活和工作方式。智能时代,通信及网络重要性在不断提升,产品迭代速度明显加速,对数据、算力、网络持续演进提出了新的要求。

在日前思博伦举办的“创新驱动智能未来”的Spirent Day 2024峰会上,中国移动通信有限公司研究院项目经理秦凤伟在主题演讲中指出,智算中心具有明显的通信特征,随着AI技术的快速发展,推动算、网软硬件技术的快速选代升级。而在测试领域,制定普适统一的智算中心网络性能评测体系仍然面临四大挑战。

首先,节点规模方面,模拟GPU实际的计算、周期性通信,测试结果是否可以客观反映实际结果;以及仪表是否能支持千卡级、甚至万卡即模拟能力。

其次,性能指标方面,测试仪端口、规模是否能匹配网络的演进速度;能否有效反映如有效宽带、长尾时延等新指标。

再次,模型种类层面,不仅需考察基本的通信原语及其不同的实现方式,还要关注测试工具迭代速速能否匹配并支持各类大模型,以及针对不同模型能否形成统一的网络性能评价标准。

最后,定制化需求上,随着端网协同的趋势日益明显,需兼顾做网卡和网络;对于私有拥塞控制协议、传输协议等的定制优化,评估是否具备高度灵活的可编程能力和定制化功能显得尤为关键。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-03-22
中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战
中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战,C114讯 3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改

长按扫码 阅读全文