吊打华伪 发表于 2025-4-1 23:16:27

终于搞好了 hz开启核显跑AI，cpu几乎不动，GPU跑满！

<br />
<br />
<br />
测试了下，GPU 算力足足有890多Gflops,&nbsp;&nbsp;足足够了，因为最慢的是内存，算力太多也没用。<br />
<br />
快是不快，但是7B都不算慢，理论上只要你不嫌弃内存慢，跑多大的模型都可以。<br />
<br />
大不了就是多等一会<img src="https://hostloc.com/static/image/smiley/default/lol.gif" smilieid="12" border="0" alt="" />

吊打华伪 发表于 2025-4-1 23:23:54

<img id="aimg_QpEu4" onclick="zoom(this, this.src, 0, 0, 0)" class="zoom" src="https://s1.locimg.com/2025/04/01/c38d8d28e1306.jpg" onmouseover="img_onmouseoverfunc(this)" onload="thumbImg(this)" border="0" alt="" />

redneck 发表于 2025-4-2 06:29:23

只能说一个字 牛

shc 发表于 2025-4-2 06:50:48

Hetzner哪款？

宁静致远 发表于 2025-4-2 13:36:44

来一发教程

Cuchemist 发表于 2025-4-2 13:41:21

GFLOPS....7000系的核显?
页: [1]
查看完整版本: 终于搞好了 hz开启核显跑AI，cpu几乎不动，GPU跑满！