长得不行 发表于 2025-3-21 10:03:14

洋垃圾焕发第N春

E5洋垃圾+计算卡洋垃圾居然能跑deepseek 671b<br />
<br />
花了不到3000，居然能跑到2.4 token，属实老黄的掘墓人

jamesbonde 发表于 2025-3-21 10:33:31

AI这种东西，只有顶级的才有存在的必要

plyu007 发表于 2025-3-21 10:04:45

2.4 token，我还不如用免费的，你说呢？

Eureka 发表于 2025-3-21 10:06:58

CPU能跑，但是上下文长度是个瓶颈，gpu的瓶颈还是要高一些。

长得不行 发表于 2025-3-21 10:07:55

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16291646&ptid=1397452" target="_blank"><font color="#999999">plyu007 发表于 2025-3-21 10:04</font></a></font><br />
2.4 token，我还不如用免费的，你说呢？</blockquote></div><br />
3000块要啥发动机啊 免费的不让折腾，虽然2.4但各种姿势随意摆弄

backlight 发表于 2025-3-21 10:04:00

低于10基本没法用

Fightlee 发表于 2025-3-21 10:08:56

我还不如冲api

fondy 发表于 2025-3-21 10:10:27

还是充api划算

sbin 发表于 2025-3-21 10:12:09

确实还是买API划算

munmun长得不行 发表于 2025-3-21 10:17:22

什么配置<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16291757&ptid=1397452" target="_blank"><font color="#999999">munmun 发表于 2025-3-21 10:54</font></a></font><br />
什么配置</blockquote></div><br />
<br />
2696v3 + 鲸鲨x99主板+32G*8 ddr3 ecc内存+50HX*2<br />
<br />
瓶颈在内存，换ddr4好些，估计最多能到4 token，但内存要贵4倍，划不来
页: [1] 2
查看完整版本: 洋垃圾焕发第N春