AMD全面发力AI芯片挑战英伟达，差距还有多大？

极客网·芯片7月5日 AMD制造的AI芯片“几乎”与业界领先的英伟达AI芯片一样快。这是根据Databricks旗下的AI软件开发商MosaicML的一项研究得出的结论。研究发现，在训练大型语言模型和执行其他AI密集型任务时，AMD的AI芯片达到了英伟达同类产品的80%。

MosaicML将AMD MI250与Nvidia A100进行了对比，并训练了不同大小的大型语言模型

英伟达的芯片目前在训练AI模型(例如用于运行ChatGPT或Midjourney的模型)方面占据主导地位。这些产品的成功和对计算能力的需求将英伟达的估值推至1万亿美元，并引发了GPU的短缺。

MosaicML对比测试AMD的M1250 GPU与英伟达的A100 GPU

MosaicML最近将AMD的M1250 GPU与英伟达的A100 GPU进行了对比测试。这两款设备都比各自开发的顶级芯片落后一代，它们被用来训练大型语言模型，研究人员发现，AMD和英伟达的芯片在训练模型时都能“开箱即用”，AMD M1250 GPU的性能约为英伟达A100 GPU的80%。

MosaicML训练了10亿到130亿个参数的模型，类似于企业中用于为大型公司数据集的搜索和汇总提供AI驱动工具的模型。他们在4个GPU的单个节点上进行训练，发现MI250 GPU的吞吐量在A100 GPU的80%以内。MI250在每秒浮点运算和内存方面略有优势，允许每个GPU训练更大的模型。

该公司计划在更大的GPU集群上对更大的模型进行分析，以确认AMD系统是否可以在大规模下运行，并正在与超大规模厂商合作。他们还计划创建推理基准，并在两个系统上使用扩散模型等其他模型来测试更广泛的选项。

虽然这两款芯片并不是这两家公司的顶级产品，但它们都被广泛用于数据中心和训练AI模型。MosaicML表示，新的机器学习训练硬件对于在英伟达GPU供应紧张的情况下提高计算可用性是必要的。

软件驱动的AMD

MosaicML表示，AMD的性能与该公司去年发布的新版本软件有关，该软件与开源AI软件PyTorch交互。MosaicML首席技术官Hanlin Tang表示，AMD对MI250 GPU的进一步软件更新将使其在今年年底之前达到英伟达A100 GPU的性能。

他表示，AMD在软件优化方面做得特别好，尽管在硬件性能方面存在差异，但仍能跟上英伟达的发展步伐。Tang表示，用户并不需要更改代码库或重新编写大型语言模型，就可以切换到采用AMD的产品。他表示，它们本质上是可以互换的。

Tang表示，AMD并没有委托MosaicML进行这项研究。MosaicML开发的软件旨在使企业更容易创建AI模型并在内部进行培训，而不是依赖OpenAI或其他大型AI实验室的工具。他指出，这项研究是为了表明除了英伟达的芯片之外还有其他选择。

他说，“总的来说，我们对AI训练硬件的未来市场非常乐观，有更多的选择意味着更多的计算供应，更低的市场价格，最终为想要训练自己的模型的用户降低成本。”

Databricks透露，该公司近日已经斥资13亿美元收购MosaicML，这是该公司构建企业级开源AI模型生态系统的更广泛努力的一部分。这两家公司都在开发软件工具，使AI算法更小、更便宜地在大型数据集上运行，但MosaicML软件将用于增强Databricks的服务。

在这份报告发布之际，英特尔日前宣布了从2025年开始在AI芯片领域展开竞争的长期计划。该公司正在转变战略，专注于制造与英伟达和AMD的硬件相抗衡的产品。

英特尔在上周宣布其FalconShores芯片将拥有288GB内存，并支持8位浮点计算，这对于训练AI模型非常重要。英特尔还声称，其Ponte Vecchio AI芯片的性能优于英伟达H100。虽然Vecchio AI芯片的供应面临延期，但将成为美国阿贡国家实验室最新超级计算机的核心，预计今年将完成发货。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。