图拉丁吧 关注:7,772,064贴子:130,271,057

挂个游戏领域大神,顺便讲讲深度学习电脑该怎么配。

只看楼主收藏回复

楼主看到了这两个帖子,瞬间闻到了大量jy的味道,决定过来水一发,讲讲深度学习的电脑该怎么配。
原帖一句高U低显肯定是不对的,游戏领域大神的含金量自然不必多说。
再补充一句,强烈不建议买多张专业矿卡p102 p106 40hx等等多张组多卡,然后挑战单卡,会亏成麻花。
帖子会从两个方面讲起,用户角度和炼丹师角度。
一方面是stable diffusion画赛博猫娘和llm与赛博猫娘对话。
另一方面是llm大模型多卡训练机该怎么配置。
lz的3647是大船靠岸前配的,现在亏麻了,2800的cpu,900块点击就送。
这是lz第三次发帖,系统杀疯了。
#台式电脑##显卡#




IP属地:北京来自Android客户端1楼2023-10-07 08:39回复
    秀新风,不打搅,来点人看看孤单的lz吧


    IP属地:北京来自Android客户端2楼2023-10-07 08:44
    收起回复
      配置呢?


      IP属地:北京来自Android客户端3楼2023-10-07 08:47
      收起回复
        我跑DL的机子捡了3张P100-16G,2张给乌班图一张给win,处理器直接用垃圾E5,可惜老显卡老架构没半浮点吃点亏,问题不大,家境贫寒


        IP属地:德国来自iPhone客户端4楼2023-10-07 08:51
        收起回复
          先聊聊m40和p40这两个老东西,尤其是p40这个老东西,之前翻倍的涨,把人当傻子坑。
          lz的建议是不要碰,不要被他24g显存迷惑了。
          现在还行,p40前一阵子涨到1200,不知道是怎么敢的。



          IP属地:北京来自Android客户端5楼2023-10-07 08:57
          收起回复
            为什么不建议买那两个老古董,m40 p40的核心构架很老了,很可能在不就的将来不再被支持。
            这个支持不是显卡驱动方面,而是深度学习框架方面。
            老黄为每个卡设置了一个叫计算能力的参数,这个参数不是根据显卡性能制定的,而是更偏向于显卡支持的特性与显卡架构。
            m40 p40的计算能力在不就的将来将不会再被支持,如果你只是玩玩当然不用担心这条。
            m40和p40的核心不支持fp16/bf16,在与20系以及以上的显卡比较的时候,不仅会出现大幅度落后,显存优势也很微弱。
            在推理模型的时候(sd或者llm),使用bf16或者fp16会节省一半的显存,而两个老古董是不支持这个特性的。


            IP属地:北京来自Android客户端6楼2023-10-07 09:09
            收起回复
              还忘记了一个老古董k80,这东西号称是24g显存 实际上这东西是双芯卡 12g*2,大部分情况下只能用到一半的性能和一半的显存。
              这东西我想不到任何情况会去推荐他。


              IP属地:北京来自Android客户端7楼2023-10-07 09:12
              收起回复
                sd最优解或许是20g3080?
                之前拿ttv试了下感觉一般


                IP属地:辽宁来自Android客户端8楼2023-10-07 09:15
                收起回复
                  +3


                  IP属地:甘肃来自Android客户端9楼2023-10-07 09:24
                  回复
                    收费写配置那属实是有点膨胀了


                    IP属地:山东来自Android客户端10楼2023-10-07 09:40
                    收起回复
                      这人在别的贴吧也差不多属于神兽级别人物


                      IP属地:江苏来自iPhone客户端11楼2023-10-07 10:17
                      回复


                        IP属地:广西通过百度相册上传12楼2023-10-07 10:42
                        收起回复
                          2080ti都被炼丹的买涨价了


                          IP属地:湖北来自Android客户端13楼2023-10-07 10:52
                          收起回复
                            支持科普


                            IP属地:上海来自Android客户端14楼2023-10-07 10:52
                            收起回复
                              继续更新。
                              CPU是没有太多要求的,唯一的硬性要求是CPU必须有AVX2指令集,现在游戏中相当大的一个比例也需要这个指令集。
                              因此E5 V1/V2是绝对不建议买的,同理一代锐龙也建议入手。虽然E5 V3/V4也有AVX2指令集,但是仍然不建议入手。
                              如果你用来训练模型,按照你不同的预处理方式,对CPU的压力可能是天差地别。例如笔者跑语音识别的时候6238T满载下喂不饱半张2080Ti,然而在搞LLM的时候,CPU基本毫无压力。
                              另外建议相比与偏重于多核性能,我更建议的是均衡多核性能和单核性能。深度学习使用的python语言默认下只支持单核,需要用一颗核心来运行程序的主要流程,对单核压力还是不小的,笔者的6238T有时候会出现单核瓶颈。
                              说了这么多CPU还是比较好选择的,选择买的起的消费级就可以,如果是多卡就看看3647和第二代以上的epyc平台。
                              大小核对深度学习的影响远小于专业软件,如果你但凡打一点游戏,就可以放心选择。
                              如果只是想跑模型,CPU只要是支持AVX2指令集就可以。毕竟主流深度学习框架pytorch和tensorflow都默认要求CPU支持AVX2指令集了。


                              IP属地:北京15楼2023-10-07 11:02
                              收起回复