速通 NVIDIA 专业显卡:专业显卡有哪些优势?适合什么场景?

今天,我们来一起聊一聊 NVIDIA RTXTM 系列的专业显卡。

目前很多用户把 NVIDIA RTX 专业卡用在 3D 设计仿真,和时下特别关注的生成式 AI、大模型训练推理,总体来说可以同时做图形和 AI 的工作。

那么问题来了,NVIDIA RTX 专业显卡究竟有什么优势?最新系列 NVIDIA Ada Lovelace 架构显卡对比上一代性能又有何提升?针对不同工作场景应该如何选择?我们在下方视频中做了详尽的介绍和测评,欢迎大家点击观看:https://www.bilibili.com/video/BV1EjiRY7E3T/

image002.jpg

外观

专业显卡的外观有什么不同?视频中我们以 NVIDIA RTXTM 4500 Ada 为例,这款卡使用的是单涡轮散热,12+4pin 的供电接口,还有 4 个 DP 显示接口,不过这个系列有些专业显卡是四个 mini dp 接口,比如 NVIDIA RTXTM 2000 Ada,专业显卡的侧面有独立的同步卡接口和 3D sterreo 接口。背面有贴标的 S/N 码,可以追溯每一块显卡的来源。

image004.jpg

image006.jpg

image008.jpg

image010.jpg

优势

1.  驱动优化

驱动方面来说,NVIDIA RTX 企业版驱动是唯一经过软件开发商认证的驱动程序。企业级驱动程序会特别针对专业应用程序、工作流程和显示配置进行额外的测试,所以稳定性和可靠性非常好。比如很多工程制图类、医疗成像等软件的用户会偏好使用 RTX 专业显卡,很重要的一点就是专业卡优化了显卡的  OpenGL 这些性能。软件驱动大家可以在 NVIDIA 官网上搜索专业显卡的型号,来下载对应的驱动。

2.  显存容量大

RTX 专业显卡的显存不仅容量大,而且还自带 ECC 纠错,在我们运行大项目的时候,稳定可靠就至关重要。我们使用专业显卡后可以在 NVIDIA 控制面板中调用 ECC 。

3.  静音

熟悉专业卡的朋友一定会感叹它的安静。我们把 2 张 RTX 专业卡都装在工作站中进行压测,贴近出风口测得才 50 分贝左右,不会产生噪音,也不会影响办公室正常工作,能耗也低。

image012.jpg

4.  显卡适配性强

专业显卡的适配性非常好,大部分品牌机型都 ok 。关键还特别扛造,稳定性强,这意味着售后故障率极低,妥妥的打工人的福音!对于用到多屏同步的朋友,专业卡也一定很熟悉。单张专业卡最大能支持四台 4K 120hz 显示屏,因此一台单机四卡的大型工作站,配合 NVIDIA 同步卡,最大可支持 16 台 4K 120hz 显示屏多屏同步。

image014.jpg

NVIDIA Ada Lovelace 架构显卡介绍

image016.jpgNVIDIA Ada Lovelace 架构显卡 VS 上一代

1.   入门专业显卡

入门级别的,那就是 NVIDIA RTX 2000 Ada了,小巧别致,功耗仅 70W,可以适配微型工作站,并且不需要外接供电。NVIDIA RTX 2000 Ada 有 16GB 的显存,它的上一代  NVIDIA RTX A2000 只有 6G 和 12G 两个版本。新架构有了很大提升,图形渲染能力已经可以与同样 16GB 显存的 NVIDIA RTX A4000 相媲美了。比如我们在 blender 4.2 中做了测试,同样渲染一张 2720*1080 分辨率的图, NVIDIA RTX 2000 Ada 相比 NVIDIA RTX A4000 快了 7%。

image018.jpg

2.   中端专业显卡

中端级别的显卡,当属 NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada。NVIDIA RTX 4000 Ada 是单宽卡,只需要占用 1 个 PCI-E 槽位。NVIDIA RTX 4500 Ada 则是双宽卡,需要占用两个 PCI-E 槽位。

NVIDIA RTX 4000 Ada 显存有 20GB,而 NVIDIA RTX A4000 只有 16GB,显存容量和 NVIDIA  A4500 一样,可以称得上是最强单宽卡了。NVIDIA RTX 4500 Ada 相比 NVIDIA RTX A4500 20G 显存,提升到了 24G 显存,和 NVIDIA RTX A5000 相同。

image020.jpg

我们测试了 NVIDIA RTX 4000 Ada、NVIDIA RTX 4500 Ada 和 NVIDIA RTX A4500、NVIDIA RTX A5000 的生成式 AI 以及图形性能。(具体测试过程可点击文章开头视频查看)

生成式 AI 性能方面,我们用 SD webUI 和 ComfyUI 做测试,都比较了生成图像的所耗时间:

NVIDIA RTX 4000 Ada 和 NVIDIA RTX A4500 基本持平,NVIDIA RTX 4500 Ada 比 NVIDIA RTX A5000 提升非常明显。

图形性能方面,我们用 3D 软件进行了 4 项渲染测试:

NVIDIA RTX 4000 Ada 相比 NVIDIA RTX A4500 有些提升。

NVIDIA RTX 4500 Ada 相较 NVIDIA RTX A5000 有 35% 的提升。

NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada 显卡可以支持单机单卡和单机多卡的场景,尤其 NVIDIA RTX 4000 Ada 单宽卡,对于紧凑型的机箱装机就非常实用。

3.   高端专业显卡

NVIDIA RTX 5000 Ada 和 NVIDIA RTX 5880 Ada 是 NVIDIA RTX Ada Lovelace 系列的高端专业显卡。

image022.jpg

高端专业显卡同样支持单机单卡和单机多卡的场景。他们既可以在单机单卡工作站中使用,也可以组成单机多卡的 AI 工作站,应用超大显存来承担复杂任务。

image024.jpg

图形能力

高端专业显卡可以用来执行最复杂的图形任务。 NVIDIA RTX A6000 是 Ampere 架构的“卡皇”,我们拿 NVIDIA RTX 5000 Ada 和 NVIDIA RTX A6000 的图形渲染能力做过测试。广电用户将本地的单卡 NVIDIA RTX A6000 替换成 NVIDIA RTX 5000 Ada,来对比在 4K 多屏拼接情况下,渲染的实时帧数表现,NVIDIA RTX 5000 Ada 保持在 35 帧左右,比 NVIDIA RTX A6000 平均高 10 帧。

在数字孪生场景中,我们用 NVIDIA Omniverse 同时渲染一段汽车配置器的动画。NVIDIA RTX A6000 的实时渲染帧率在 25 帧,而 NVIDIA RTX 5000 Ada 室内平均 80 帧,室外场景则有 100 帧。

AI 能力

除图形之外,高端专业显卡的 AI 能力是最值得称赞的。我们先来看看单卡的能力。

很多企业用单块高端专业卡搭建工作站,来做企业对话问答,模型很多用 7B、8B、13B 大小。日常对话的短输入短输出场景里,Llama 3.1 8B 模型, bs 达到 256 ,首字延迟和总延迟都很低,吞吐率也很高。Baichuan 13B FP8 的测试中, bs 到 128,两款显卡也都表现很优秀。

长输入长输出 类似知识库的应用场景中,两张高端专业显卡也同样可以很好的支持 8B 和 13B FP8 的模型推理。

这两款显卡单卡也可以用于小模型的训练。

这两款显卡单张用于生成式 AI 是极具性价比的,我们以 Flu.1x 模型生图为例,NVIDIA RTX 5000 Ada 可以支持至 bs 24,NVIDIA RTX 5880 Ada 可以支持到 bs 50。这种水平是其他RTX显卡都无法匹及的。

AI 工作站目前使用的是 NVIDIA RTX 5000 Ada 或者 NVIDIA RTX 5880 Ada 的四卡配置方案。

搭载 4 张 NVIDIA RTX 5000 Ada 或者 4 张 NVIDIA RTX 5880 Ada 的工作站可以支持 70B FP8 的模型推理,batch size 到 64 的表现也非常好。

AI 工作站搭载 4 张 NVIDIA RTX 5880 Ada 专业显卡,最高拥有 192GB 显存,可以支持到 70B Qlora 模型的训练。对于单机多卡的机器,RTX 专业显卡支持 GPUDirect P2P 通信技术,可以为 GPU 之间提供超强的通信支持。对于大多数项目 POC,或者中小企业、部门来说,AI 工作站已经可以承担大部分日常的 AI 任务,并且作为放置在办公室的机器来说,降噪是永恒的追求。对于在计划升级算力的团队来说,使用专业显卡搭载 AI 工作站是非常值得考虑的。

如果大家需要各款显卡的参数和具体测试数据,可以点击链接获取:

https://www.wjx.top/vm/tU0ny4P.aspx#

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2025-01-06
速通 NVIDIA 专业显卡:专业显卡有哪些优势?适合什么场景?
目前很多用户把 NVIDIA RTX专业卡用在3D设计仿真,和时下特别关注的生成式 AI、大模型训练推理,总体来说可以同时做图形和AI的工作。

长按扫码 阅读全文