Kin_2012

小的用RTX 5070 TI 16GB, 來畫工業繪圖, 因軟件支援Nvidia cuda AI
joecn 發表於 2025-4-2 21:06

如果係  24GB / 32GB 就吸引

netmen

其實加Ram係最易提升效能的手段 , 就係咁樣限住我地....

小小米

算啦..VPN用GEMINI啦
abcjerry 發表於 2025-4-2 11:52

    唔明

ki_cat

其實加Ram係最易提升效能的手段 , 就係咁樣限住我地....
netmen 發表於 2025-4-3 11:11

以前廢卡成日有多RAM版本,點人買
自從有AI流行之後,RAM即刻變成貴重資源.

HKF91

3060 12G vs 3060 ti 8G  <---除非本身已經有卡玩下AI無所謂, 突登俾錢買呢d同倒錢落海無分別
入門最好16G  但只係基本入門!!都有夠慢的   32G先夠玩到下d大食少少模型
家陣d人玩AI局用N卡CUDA, 全世界都知道AI唔夠RAM問題 , 但我就唔加俾你 你真係吹佢唔脹?  之後佢另外出DGX Spark ` DGX Station賣到貴一貴又只係岩岩好夠你用下想再多d RAM運算?  再買多部串埋佢啦 , 有本事你唔好買
佢敢出顯卡有128GB  256GB  512GB  1TB一定勁多人買

所以10樓講既係真 用 mac或 ryzen ai max 加盡 ram 跑可能更化算 , 起碼你有機會玩到32G以上既模型  (原版AI模型幾百GB既就唔好諗啦)

Sinair

回覆 15# HKF91

講得用NV GPU去跑AI 肯定係跑圖 即FLUX/SD果類

而你講嘅係Llm 用途唔同 無64GB RAM 就唔好搞AI了
一粒ai max+ pro 395 $5000以上 128GB RAM $3100
成套野埋單$10000以上先行到70b...仲未計電費同時間 再加埋溢價 現階段都係唔太抵 有錢佬玩意

真係要化算 直接比錢線上版好過

ki_cat

SDXL 12g 去Civitai用人地MODEL,GEN下D 1024x1024圖仔係可以.
Flux甚至整片果類,據說都有D版本改到,用埋系統RAM幫手,都無唔得既.
但落到系統RAM,肯定勁慢

訓練就唔駛點唸.

LLM有D低B模型,可以當體驗版試玩下,
甚至有D翻譯模型俾你12G行到.據說效果還好.
https://github.com/SakuraLLM/SakuraLLM

當了解下件事係點,實用搵食唔好唸.
有興趣再花大錢.

kenken33

回覆  HKF91

講得用NV GPU去跑AI 肯定係跑圖 即FLUX/SD果類

而你講嘅係Llm 用途唔同 無64GB RAM 就唔好 ...
Sinair 發表於 4-4-2025 18:28

ai max+ pro 395 只係叫做開到但慢到爆根本唔實用，你只要開到用大容量M系mac 機連671B都跑到添
70b  要性價比就5090D+張5080/5070TI 有20token/s到 或者魔改4090

joecn

AMD 的新CPU max 395很厲害, 行到128GB, 可用分給內顯做ram, AI會不會比RTX 5070 TI好用? 小的現在用Ultra 9 285K, 64GB + 2TB, RTX 5070 TI來畫工業繪圖, 因其支援cuda, 但用max 395配到128GB, 軟件是否支援?

Sinair

回覆 18# kenken33

主要係好多人連AI有分別都唔知 搞亂晒
395速度係慢 但PC家用只有佢用到同最快 MAC其實都係差唔多速度
如果真係有必要本地部署 我覺得都可以一試

5090就算魔改到 64GB 都係開唔到70B 係LLM方面都係無性價比可言

應該分開兩樣野黎討論