3

又有瓜吃了

选显卡了！敲黑板！
这里面如果要说硬性规定，只有一个最低要求显卡显存至少为6G。
无论是你用来跑模型、还是训练模型，6G都是最低标准，4G显存任何情况下都会很蹩脚。
首先是无奈级、这个级别只适合没有显卡或者显卡显存是4G的玩家选购，P104-100 1070换皮，价格只有120块。P102要高达250块，lz是不建议在这种辣鸡级上投入这么多的钱的。
预算再高一点，笔者建议优先选择20系的二手卡（矿卡），不需要魔改就可以玩游戏，也有高贵的tensorcore。相比各种需要魔改散热的矿卡好很多。
20系中笔者最推荐2080Ti，笔者推荐它的原因不是因为可以改成22G显存，而是它搭载了20系最良心的tensorcore，也拥有11G的显存。
多说一点2080Ti，小黄鱼上的2080Ti涌现了一大批涡轮公版卡。这些卡分为残血供电和满血供电、残血核心(TU102 300)和满血核心(TU102 300A)、残血显示接口和满血显示接口。
现在SD和LLM优化显存占用的技术已经非常成熟了，大于8G的显存很难成为瓶颈了，再画超大的图时候也可以使用分块渲染。此时显卡核心才是真正决定显卡性能的地方，支持tensorcore的20、30、40系对于旧卡可以发挥巨大的优势。
笔者的显卡配置就是2080Ti（11G） *2，另外一提楼主还有一张tesla T4正在路上。
预算再高就可以考虑3090矿卡或者高贵的40系了，按照自己买得起的选就可以了。

所有显卡除了平民级的2080Ti值得一提以外，另一块值得一提的就是4090这个怪物了。
老黄为4090配备了恐怖的tensorcore，tensorcore的规模fp16/bf16性能甚至可以与A100正面对标。
4090虽然没有A100恐怖的80G hbm显存，但是在性能上已经可以威胁到A100的地位了，这对于想来显卡地位分明的老黄是不可以接受的，老黄决定给它来致命一刀。
这一刀就是！老黄把4090的nvlink给砍掉了！
你不会以为这个是正确答案了吧？
老黄致命的一刀是砍在了pcie p2p上，4090是第一张不支持pcie p2p的显卡！nvlink只能改善两张卡之间的通信性能，而pcie p2p的消失则影响到了所有显卡间的通讯性能！
目前看到的4090的8卡机，除了矿机以外，都遇到了明显的性能瓶颈，显卡利用率上不去。甚至在早期多卡4090会造成严重的兼容性问题，不知道这点现在是否有改善。
老黄是懂泾渭分明的，这一刀下去以后，4090只能安心当好最强的深度学习单卡（在所有买的到的显卡中），多卡性能被砍没了。

这种帖子多来点，看到20/30就说矿，看到e5/xeon就说洋垃圾这种真的看吐了

尊敬的楼主，您好，我命令你给我配置一套炼丹机器，要求必须使用2080ti 22G显存，本人预算有限，希望预算可以控制在4300左右，别让我求你由于本人没有买矿卡的经验，如果能推荐合适的显卡店铺我感激不尽

催更

cy催更

小白不懂，能推荐个配置吗我也跑跑深度学习

楼主请问笔记本用雷电三外接显卡表现会不会差很多啊？