AI max 測試

本帖最後由 usei 於 2025-5-23 22:45 編輯

https://www.youtube.com/watch?v=-1kuUqp1X2I

某些 AI 應用顯存超過 30G
真的跑 AI 才有價值

雖然不能同幾千 TOPS 專業卡相比 , 但夠 ram 跑得到

0

Rank: 3 Rank: 3 Rank: 3

2^#

發表於 2025-5-24 01:35 | 只看該作者

某些 AI 應用顯存超過 30G
真的跑 AI 才有價值

雖然不能同幾千 TOPS 專業卡相比 , 但夠 ram 跑得到 ...
usei 發表於 2025-5-23 12:48

其實沒N卡很多AI跑不了。

Rank: 3 Rank: 3 Rank: 3

3^#

發表於 2025-5-24 12:53 | 只看該作者

剩cpu 120w
功耗計/錶200w
望埋個價...

咁無佢既事啦

Rank: 3 Rank: 3 Rank: 3

4^#

發表於 2025-5-24 22:31 | 只看該作者

vram 多了, 的確是可以跑比較大的 model, 可惜 gpu 速度又跟不上, 30B 都只有幾 token/s..... 變得實用性大減..