阿里云谢崇进:智能计算是光互联的新增长引擎

7月3日消息(南山)大模型等AI人工智能技术,正在深刻改变光通信行业。尤其是数据中心光互联,在汹涌的智能算力驱动下,传输带宽高速增长。

在近期举办的2024中国光网络研讨会上,阿里巴巴首席通信科学家、阿里云资深技术总监谢崇进发表演讲指出,AI对算力的需求快速增长,超过了摩尔定律的增长速度。根据IDC的预测,到2027年,AI服务器市场份额将超越传统服务器,主导服务器这一核心算力设备市场。

而AI计算是大规模并行计算,包括矢量并行 (Tensor parallelism)、流水线并行 (Pipeline parallelism)、数据并行 (Data parallelism),在服务器、处理器、网络、功耗等方面与通用计算的基础设施存在很大差异。

例如服务器,将从x86为主的通用计算服务器,转向GPU为主的高性能计算服务器,功率更高、算力更强、网络带宽更大;再如网络,从数据中心以太网网络,转向基于RoCE的以太网或者IB的高性能网络,具备高吞吐、超低时延和高可靠性。

以阿里云自研的HPN 7.0高性能AI智算集群网络为例,创新性地设计了“双上联+多轨+双平面”的网络架构,并配合最新一代的51.2Tbps单芯片以太网交换机和400G高性能网卡,自研Solar-RDMA和ACCL通信库,实现了单层千卡、两层万卡的高性能和高稳定互联。

谢崇进指出,AI时代,计算在从通用计算走向智能计算,从CPU为中心转向GPU为中心。由于并行计算特点,智能计算带来了大量的光互联需求,成为光互联的新增长引擎。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-07-03
阿里云谢崇进:智能计算是光互联的新增长引擎
阿里云谢崇进:智能计算是光互联的新增长引擎,C114讯 7月3日消息(南山)大模型等AI人工智能技术,正在深刻改变光通信行业。尤其是数据中心光互

长按扫码 阅读全文