人工智能迫使数据中心重新思考设计

人工智能迫使数据中心重新思考设计

随着人工智能在企业中的大规模应用,其后果之一是其消耗了数据中心更大比例的工作负载。

人工智能不仅将加速对数据中心的需求,为投资创造新的动力,而且还将对数据中心的可持续性战略和要部署的基础设施的性质产生影响。

例如,Tirias Research预测,按照目前的情况,到2028年,生成式人工智能数据中心服务器基础设施加上运营成本将超过7600万美元,是Amazon AWS目前估计年度运营成本的两倍多,占全球云服务市场的三分之一。

预测硬件计算性能将提高400%,这与Tirias估计的处理工作负载将增加50倍相比,相形见绌。

更高的密度

根据Schneider Electric的一份新白皮书,大型训练集群和小型边缘推理服务器的爆炸式增长,也将意味着向更高机架功率密度的转变。

白皮书称:“人工智能初创企业、企业、主机托管提供商和互联网巨头现在必须考虑这些密度对数据中心物理基础设施的设计和管理的影响。”

Schneider能源管理研究中心对人工智能对能源需求的影响做出了自己的预测。据估计,人工智能目前代表着4.3GW的电力需求,到2028年将以26%至36%的复合年增长率增长。

这将导致总需求达到13.5GW至20GW,是数据中心整体电力需求增长的两到三倍。到2028年,人工智能工作负载将占数据中心总能源的20%。

Schneider指出,虽然预计会比训练集群消耗更多的电量,但推理工作负载可以在各种机架密度下运行。

“另一方面,人工智能训练工作负载一直以非常高的密度运行,每个机架的功率在20-100 kW或更高。”

“网络需求和成本推动这些培训机架聚集在一起。这些极高功率密度的集群从根本上挑战了数据中心的电源、冷却、机架和软件管理设计。”

动力系统的挑战

Schneider概述了四个关键领域可能产生的影响:电源、冷却、机架和软件管理。

在电力方面,人工智能工作负载对开关设备和配电系统的动力系统提出了挑战。

目前使用的一些电压将被证明部署起来不切实际,而较小的配电块尺寸可能会浪费IT空间。较高的机架温度也会增加发生故障和危险的机会。

随着数据中心过渡到液体冷却,冷却将是至关重要的,也是需要进行重大改变的领域之一,半个多世纪以来,液体冷却一直用于专业高性能计算。

Schneider表示:“尽管在不久的将来,空气冷却仍将存在,但预测,从空气冷却到液体冷却的转变将成为具有人工智能集群的数据中心的首选或必要解决方案。”

“与空气冷却相比,液体冷却具有许多优点,例如提高处理器可靠性和性能、节省空间和更高的机架密度、管道中水的热惯性更大以及减少用水量。”

对于人工智能集群,服务器需要更深入,电力需求更大,冷却也更复杂。

因此,机架需要具有更大的密度和承重能力。

数字孪生

最后,DCIM、BMS和电气设计工具等软件工具将成为管理人工智能集群的关键。

适当配置和实施的软件可以提供数据中心的数字孪生,以识别功率限制和冷却资源的性能,从而为更好的布局决策提供信息。

在日益动态的环境中,容错空间越小,操作风险就会越高。因此,Schneider建议创建整个IT空间的数字孪生,包括机架中的设备和虚拟机。

”通过数字化添加或移动IT负载,可以验证是否有足够的电力、冷却和地板承重能力来支持。这为决策提供了信息,以避免资源搁浅,并最大限度地减少可能导致停机的人为错误。“

相关推荐:

7个常见数据中心迁移挑战

什么是物联网中的数字孪生?

数据中心冷却可持续发展策略

如何释放人工智能在智慧城市中的潜力?

CIBIS峰会

由千家网主办的2023年第24届CIBIS筑智能化峰会即将正式拉开帷幕,本届峰会主题为“智慧连接,‘筑’就未来”, 将携手全球知名智能化品牌及业内专家,共同探讨物联网、AI、云计算、大数据、IoT、智慧建筑、智能家居、智慧安防等热点话题与最新技术应用,分享如何利用更知慧、更高效、更安全的智慧连接技术,“筑”就未来美好智慧生活。欢迎建筑智能化行业同仁报名参会,分享交流!

报名方式

成都站(10月24日):https://www.huodongxing.com/event/6715336669000

西安站(10月26日):https://www.huodongxing.com/event/3715335961700

长沙站(11月09日):https://www.huodongxing.com/event/7715337579900

上海站(11月21日):https://www.huodongxing.com/event/9715337959000

北京站(12月23日):https://www.huodongxing.com/event/3715338464800

广州站(12月07日):https://www.huodongxing.com/event/6715338767700

更多2023年CIBIS峰会信息,详见峰会官网:http://summit.qianjia.com/

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2023-09-19
人工智能迫使数据中心重新思考设计
随着人工智能在企业中的大规模应用,其后果之一是其消耗了数据中心更大比例的工作负载。人工智能不仅将加速对数据中心的需求,为投资创造新的动力,而且还将对数据中心的可持续性战略和要部署的基础设施的性质产生影响。

长按扫码 阅读全文