本地部署。。还得喂数据的吧。。

crwwin 本地部署。。还得喂数据的吧。。

是啊，原生模型不行

LLM 不能拿来分析数据，这是个推测文字的东西，没有逻辑或者计算能力

本地部署的哪个版本？
一般电脑开不起大的，网上有种巧妙方法据说可以用大内存（200多GB）+仅16GB显存全量运行671Billion的模型。

StierGBC 是啊，原生模型不行

你恰恰弄反了，原生模型是目前最好的大模型，但是本地部署基本上没办法的，哪怕你用到32b，都只是蒸馏模型，和原生模型没法比。github上的DS原生模型，光模型本身就要1个T大小。。。显卡和内存要求就不要提了。

部署的是R1吗？如果没有使用ktransformers方案的话，本地部署的32B参数也就是单卡极限了(4090 24GB VRAM)，这就是个distill出来的千问Q4量化模型，压根就不是原生的671B Q8量化V3/R1模型，完全体为1.5TB。
事实上<70B的distill模型都不好用，准确的说就是呆得一批，属于不可用状态，而不是deepseek的问题...

virtualdub 部署的是R1吗？如果没有使用ktransformers方案的话，本地部署的32B参数也就是单卡极限了(4090&nbsp;24GB&nbsp;VRAM)，这就是个distill出来的千 ...

R1 7B

这个故事就好像是，你偏要用 挖掘机 炒小白菜。

估计得等起码五年HBM普及廉价化后，才可能单机部署原生r1吧，不过那个时候应该有更好的模型了。

7B说个毛阿，一点意义都没有，至少32B起吧。

个人设备又不行，怎么可能跟商用比

阉割版啊，本地算力达不到，我看好多人在吐槽，然后在线版是完全版，但是服务器又总出错😂

放弃本地部署了，还是选择了某个服务商

付费API渠道R1秒回，16/M token，反正我也不做代码相关的事情，完全够用

我玩到从任天堂教授那里拿到了大力手套，推开了巨石，准备去找金矿了。

叹逍遥 我玩到从任天堂教授那里拿到了大力手套，推开了巨石，准备去找金矿了。

前路漫漫其修远兮