一个AI机器人有多会聊天?ChatGPT实力“聊”出了史上增长最快的消费级应用，上线短短两个月，月活用户突破1亿，每天用约有1300万独立访客与之对话。敲代码、写论文、编剧本……这位多才多艺的“全能网友”，引爆了新一轮的人工智能热潮。
然而，当红的ChatGPT也正经历着“成长的烦恼”。从GPT到GPT-3，优化迭代主要源自模型的增大，训练参数量从1.17亿增加到1750亿，模型训练使用的数据量高达0.4万亿token，如此庞大的数据体量，对于分布式集群的运算效率提出了极高要求。事实上，不只是ChatGPT，整个AI产业的大规模商用都在经历算力限制的阵痛。
如何在整体资源有限的条件下，让应用获取更多的计算资源，提升机器学习效率，人工智能和算网融合领域的前沿课题——在网计算(In Network Computing)成为其中一种有效解决方案。
让网络设备参与计算突破集群计算效率瓶颈
数据显示，过去5年GPU算力增长近90倍，而网络带宽仅增长10倍。受网络通信能力的限制，分布式集群的运算效率无法随其规模线性增长，网络通信能力日渐成为人工智能模型训练成熟发展的瓶颈。
传统的计算集群，计算过程以计算节点为中心，网络仅用于节点间的互联。当各计算节点之间进行一对多或多对多的集合通信时，多次通信交互不仅会影响计算效率，也会增加网络负载，出现通信时延过大、通信效率降低等问题。
作为算网融合核心技术之一的“在网计算”技术，是通过在网络中部署对报文进行解析的算力，将部分计算任务从主机侧迁移至网络侧，由交换机、路由器、智能网卡、DPU等设备或部件完成计算加速的技术。通过网络设备自身算力的共享，在不改变业务原有运行模式的前提下，在网计算将HPC和AI分布式计算的集合通信的操作卸载到网络设备上，让网络设备参与计算，减少计算节点之间的消息交互，降低通信延迟，从而提高网络带宽利用效率，加速HPC和AI分布式计算效率。
加速布局在网计算推动“网络计算化”演进
作为数字化解决方案领导者，紫光股份旗下新华三集团以科技创新为引领，基于在网络和计算领域深厚的技术积淀，主动担起在网计算技术的产业化探索职责，快速在网络设备端完成研发落地。
全面支持在网计算的H3C P4可编程交换机支持Pytorch框架和DPDK UDP、RoCE通信方式，能够将数据需求聚合统一操作，优化通信网络拥堵，减少主机的数据处理量。据新华三集团内部实验室测算，使用H3C P4可编程交换机加速数据并行训练，模型训练精度不受影响，计算节点间通信数据量平均减少30%，最多可以减少48%的训练时间，可大幅提升分布式集群的整体训练效率，创造更加出色的应用价值。
在网计算作为计算、网络融合发展的关键技术，不仅有效解决了HPC和AI分布式计算的集合通信问题，为提升数据中心的集群规模带来了新的方案和思路，同时也将进一步加速算网融合“网络计算化”演进，推动网络从连接算力到感知、承载、调配算力的角色升级，助力算网融合纵深发展。
从AlphaGo击败围棋世界冠军，到ChatGPT火遍全球，人工智能时代正在加速到来。面向未来，在“云智原生”战略指引下，新华三集团将以前瞻视野精耕科技，深入数字科技的实际应用场景，为人工智能与经济社会的融合注入强大的创新动能，深度赋能百行百业的数字化转型和智能化升级。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
