显卡|深度学习的显卡对比评测：2080ti vs 3090 vs A100 深度学习|GPU|英伟达|it芯片

【显卡|深度学习的显卡对比评测：2080ti vs 3090 vs A100】

文章图片

文章图片

文章图片

文章图片

文章图片

显卡大幅降价了但是还可以再等等，新的40系列显卡也要发售了，所以我们先看看目前上市的显卡的性能对比，这样也可以估算下40显卡的性能，在以后购买时作为参考。

但是在本文之前一定要说下的是：本文并不推荐现在就买显卡，除非必须，现在一定不要买显卡，谁买谁吃亏，目前的情况是， “等” 就对了

回到正题，在这篇文章中我整理了几个在 NVIDIA GeForce RTX 3090 GPU 进行的深度学习性能基准测试。
一般的情况下我们都会使用 TensorFlow github 中的“tf_cnn_benchmarks.py”脚本来进行深度学习的评测。因为大多数的测试都是基于这个脚本，如果你是pytorch也可以参考，显卡的基准测试与使用的框架无关，差别不会超过5% 。
首先使用 1、2 和 4 个 GPU 配置（针对 2x RTX 3090 与 4x 2080Ti 部分）运行了相同的测试。确定的批量大小是可以容纳可用 GPU 内存的最大批量。
然后还会比较 2022 年最流行的深度学习 GPU 的性能：除NVIDIA 的 RTX 3090以外还包括了、A100、A6000、A5000 和 A4000等产品。
3090对比其他消费级的产品首先说结果：NVIDIA RTX 3090 在所有型号上均优于所有 GPU（图像/秒）。 2x RTX 3090 > 4x RTX 2080 Ti。对于深度学习， RTX 3090 是市场上性价比最高的 GPU ，可大幅降低 AI 工作站的成本。
RTX 3090 ResNet 50 TensorFlow Benchmark

RTX 3090 ResNet 152 TensorFlow Benchmark

RTX 3090 Inception V3 TensorFlow Benchmark

RTX 3090 Inception V4 TensorFlow Benchmark

2x NVIDIA RTX 3090 Vs 4x RTX 2080 Ti

与 RTX 2080 Ti 的 4352 个 CUDA 核心相比， RTX 3090 的 10496 个 CUDA 核心是其CUDA的两倍多，CUDA 核心是 CPU 核心的 GPU 等价物，并针对同时运行大量计算（并行处理）进行了优化。更多 CUDA 内核通常意味着更好的性能和更快的图形密集型处理。 3090 拥有 24GB GDDR6X 内存，也是2080 Ti 11G的2倍多，所以取得这样的结果也是情理之中的。
RTX 3090 vs. RTX 3080 Ti vs A6000 vs A5000 vs A100

RTX 3090 GPU的2.5 插槽设计，只能在风冷时在 2-GPU 配置中进行测试。4-GPU 配置需要水冷。所以这也限制了他的测试，如果我们需要购买多块3090一定要注意机箱的大小。
3090一定要上水冷RTX 3090 可能遇到的一个问题是散热，主要是在多 GPU 配置中。 4 x RTX 3090 配置需要水冷。不仅是散热问题，还因为大小问题。
过热导致性能下降高达 60%，所以水冷是最好的解决方案；提供 24/7 稳定性、低噪音和更长的硬件寿命。此外，任何水冷式 GPU 都可以保证以最大可能的性能运行。水冷 RTX 3090 将保持在 50-60°C 与风冷时 90°C 的安全范围内（90°C 是 GPU 将停止工作和关闭设定值）。2x 或 4x 风冷 GPU 噪音非常大，尤其是鼓风机式风扇。将工作站放在实验室或办公室是不可能的——更不用说服务器了。水冷解决了台式机和服务器中的这种噪音问题。与风扇相比，噪音降低了 20%（水冷却为 49 dB ，最大负载时风扇为 62 dB）。