你们部署32b模型都用的什么卡啊【deepseek吧】

deepseek吧关注：126,776贴子：298,997

奸商卡的死死的，20g以上显存的卡，价格都死贵，A卡就7900xt20g勉强够，但是不知道流畅不流畅，而且说很多地方支持性很差

送TA礼物

IP属地:四川

来自Android客户端1楼2025-04-04 14:45回复

精度几啊

，精度4差不多占用22g，我拿4060部署的

IP属地:海南

2楼2025-04-04 16:49

收起回复

不感兴趣

开通SVIP免广告

为什么不多卡呢

IP属地:广东

来自iPhone客户端3楼2025-04-04 20:23

收起回复

我3070精度4跑到内存里差不多2token/s 问一个问题等半天

IP属地:江西

来自Android客户端4楼2025-04-15 11:36

收起回复

怎么炒股

IP属地:浙江

来自Android客户端5楼2025-04-17 19:17

下载贴吧APP
看高清直播、视频！

贴吧热议榜

发表回复

内容:

使用签名档查看全部

发表

保存至快速回贴