显卡|深度学习的显卡对比评测：2080ti vs 3090 vs A100( 二 ) 深度学习|GPU|英伟达|it芯片

最后总结对于大多数用户而言， NVIDIA RTX 3090 或 NVIDIA A5000 将为他们提供物超所值的服务。使用大批量可以让模型训练得更快、更准确，从而节省大量时间。 RTX 3090 上 24 GB 的 VRAM 对于大多数用例来说绰绰有余，几乎可以为任何型号和大批量提供空间。
NVIDIA 的 RTX 3090 是目前深度学习和 AI 的最佳 GPU 。它具有卓越的性能，非常适合为神经网络提供动力。RTX 3090 是 30 系列中唯一能够通过 NVLink 桥接器进行扩展的 GPU 型号。当与 NVLink 网桥配对使用时，可以将显存扩充为 48 GB 来训练大型模型。
40系列AMD的7000系列据说要比NV的40系列性能的高，但是目前深度学习框架支持的不好，所以对于深度学习来说还只能用 NV的卡，这个目前来说没有办法。
新的40系列的显卡已经公布了上市的时间今年的第三季度，虽然功率高了（600W），但是相应的算力也高了， 18432个CUDA核心、96MB缓存。据说4080就能达到目前3090的水平，根据上面的测试， 1万8的CUDA的表现至少要比 1万出头的3090提高60-70% ，所以就像我们最上面说的：不是必要的话现在不要买，买了就吃亏，买了就上当。
https://www.overfit.cn/post/9ef4a9a4728f4fb69412abe267f634e4