省万元？！AI应用大战之22G魔改2080TI对比4090及其他显卡

对话模型！视频渲染！AI绘图！AI的应用可不止绘图，从本地部署稳定运行的对话模型到视频AI优化，各种各样的AI软件大幅提升我们的生活效率(精彩)，而显卡怎么买，什么显卡才适用就是关键。这个耗时1个月可能是B站首个全AI应用显卡性能对比测试，为大家带来了答案，测试不仅游4090这样的顶级显卡，也有22G魔改2080Ti这样的神奇显卡，看完甚至能省万元哦！

[@chinalixiang100]

在哪个商家购买的2080ti原版 又是在哪里进行的魔改？一键三连了，期待版主回复，谢谢！

[@Geekbuy001]

你好！谢谢~！ 魔改风险较大，帮我魔改的大神现在都不搞了，建议在电商平台买改好且带一年保修、三风扇的版本，电商店铺尽量找开了3年以上的老店铺。

[@hsiao-yangchen]

京东买了一个，买了6年保😅

[@jionglirong963]

4500ada 跑ai什么样，希望能给个建议

[@Geekbuy001]

抱歉刚旅游回来。你好，4500ada还没用过，从硬件参数来看24G显存、7680个核心来看，显存大小没问题，但核心还是比较少，4080都有9728个cuda。当然不排除专业卡在驱动上有更多的优化（官网针对生成式AI是有专门的优化介绍的）。

[@zesenqian1591]

2080ti的nvlink只支持双卡的

[@Geekbuy001]

2080ti最高支持8卡，11G版本得8卡互联 INT4量化 GLM-130B在 FasterTransformer中的推理速度(编码和解码)：128 Een./DEC. 512 Enc./Dec 为: 0.39s / 6.77s / 1.04s / 27.3s 。 而8卡互联的A100（40G）其数据为：0.15s / 4.29s / 0.18s / 17.7s 。 显存越大速度越快，22G的2080ti理论上应该臂4卡互联的RTX3090（24G）更快，接近8卡互联的V100（32G）。

[@user-asswecan]

我买这卡只是看不惯老黄越来越抠门的显存，毕竟这是现在老黄刀法唯一的破绽了