洋垃圾焕发第N春

长得不行 · 发表于 2025-3-21 10:03:14

E5洋垃圾+计算卡洋垃圾居然能跑deepseek 671b

花了不到3000，居然能跑到2.4 token，属实老黄的掘墓人

jamesbonde · 发表于 2025-3-21 10:33:31

AI这种东西，只有顶级的才有存在的必要

plyu007 · 发表于 2025-3-21 10:04:45

2.4 token，我还不如用免费的，你说呢？

Eureka · 发表于 2025-3-21 10:06:58

CPU能跑，但是上下文长度是个瓶颈，gpu的瓶颈还是要高一些。

长得不行 · 发表于 2025-3-21 10:07:55

plyu007 发表于 2025-3-21 10:04
2.4 token，我还不如用免费的，你说呢？

3000块要啥发动机啊免费的不让折腾，虽然2.4但各种姿势随意摆弄

backlight · 发表于 2025-3-21 10:04:00

低于10基本没法用

Fightlee · 发表于 2025-3-21 10:08:56

我还不如冲api

fondy · 发表于 2025-3-21 10:10:27

还是充api划算

sbin · 发表于 2025-3-21 10:12:09

确实还是买API划算

munmun长得不行 · 发表于 2025-3-21 10:17:22

什么配置

munmun 发表于 2025-3-21 10:54
什么配置

2696v3 + 鲸鲨x99主板+32G*8 ddr3 ecc内存+50HX*2

瓶颈在内存，换ddr4好些，估计最多能到4 token，但内存要贵4倍，划不来

账号		自动登录	找回密码
密码			立即注册