卡尔 发表于 2025-2-12 01:30:49

deepseek R1满血版本地能部署吗？

deepseek R1满血版本地能部署吗？

chr 发表于 2025-2-12 01:33:05

配置够强就能

卡尔 发表于 2025-2-12 01:35:58

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16229064&ptid=1388455" target="_blank"><font color="#999999">chr 发表于 2025-2-12 01:33</font></a></font><br />
配置够强就能</blockquote></div><br />
需要电脑啥配置啊？最低标准有没有说明

Fightlee 发表于 2025-2-12 01:33:00

六张h100,80G版本就可以<br />
纯cpu的话也可以<br />

四叶草 发表于 2025-2-12 01:37:24

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16229067&ptid=1388455" target="_blank"><font color="#999999">卡尔 发表于 2025-2-12 01:35</font></a></font><br />
需要电脑啥配置啊？最低标准有没有说明</blockquote></div><br />
最便宜的方法，凑满512G内存

卡尔 发表于 2025-2-12 02:19:51

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16229089&ptid=1388455" target="_blank"><font color="#999999">四叶草 发表于 2025-2-12 02:19</font></a></font><br />
最便宜的方法，凑满512G内存</blockquote></div><br />
512G内存就是开了虚拟内存也吃不消啊 直接爆了 <img src="https://hostloc.com/static/image/smiley/yct/009.gif" smilieid="44" border="0" alt="" />

四叶草 发表于 2025-2-12 01:35:00

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16229090&ptid=1388455" target="_blank"><font color="#999999">卡尔 发表于 2025-2-12 02:23</font></a></font><br />
512G内存就是开了虚拟内存也吃不消啊 直接爆了</blockquote></div><br />
https://digitalspaceport.com/how-to-run-deepseek-r1-671b-fully-locally-on-2000-epyc-rig/

iiii.im 发表于 2025-2-12 02:23:10

<i class="pstatus"> 本帖最后由 iiii.im 于 2025-2-12 03:11 编辑 </i><br />
<br />
两张H100应该行。一张30个W供不应求(可能更高)，天朝禁止购买<br />
<br />
一张电费24h大概300块人民币，2张600。加上其他也就是说待机一天就是七八百成本

jqbaobao 发表于 2025-2-12 02:19:00

可以，需要500G以上的内存（非独显推理）或显存（gpu推理）

bisuer 发表于 2025-2-12 03:05:16

cpu推理不如去用api,GPU推理准备好100个w买设备本地部署对机器要求可不是一点高
页: [1] 2
查看完整版本: deepseek R1满血版本地能部署吗？