rabbit82047

講真玩 AI 買部 Mac Studio 好過用 Gaming card

3ldk

講真玩 AI 買部 Mac Studio 好過用 Gaming card
rabbit82047 發表於 2025-12-15 20:27

咁mac可以用512G video ram又確實係幾完美既
但mac的gpu唔係n, 甚至都唔係a, 咁會唔會有ai工具唔支援的問題?

kenken33

暫時聽到兩種完全相反的講法
有一班人話玩ai一定係用nvidia, 因為佢driver好D
另一班人話玩ai最重要係ram多 ...
3ldk 發表於 15-12-2025 11:33

AI主力食CUDA，而CUDA係NV獨家野得佢旗下產品先有，第二就係食記憶體頻寬

錢問題姐邊個話nvidia 冇96GB VRAM，你有錢既行多張RTX 6000 pro 96GB X N連起佢都得﹐再有錢咪學AI大企業上H200 4.8 TB/s NVLINK 而且你講AMD個所謂RAM多其實只係普通PC ram來，即使用256-bit相當於四通道ram都係慢GPU 既VRAM幾條街。




平民搞AI係用mac studio，3萬銀一部96GB 4萬幾 256GB 攻頂8萬512GB，只係M3 Ultra RAM頻寬已經係接近5070TI水平 (819GB/s 記憶體頻寬)，過多幾個月出M5 Ultra 頻寬應該過千。AMD果粒野得果2百零頻寬玩手指咩，RTX5090係 1792 GB/s RTX 6000 pro 頻寬同5090差不多就係多VRAM版本既5090

CallPut

回覆 12# 3ldk


Nvdia DGX Spark下月有賣, 好似wellent街鋪一月有Dell Pro Max with GB10賣(DGX Spark), 不過平民AI有咩玩法??講D嚟聽下.....

ki_cat

我唔知理解有無錯,家用級gen圖,vram同system ram無好多人想像中差咁遠.你搵係同類既會爆vram,除左load果下,隨時快過縮ram版q4.

瓶頸應該唔係完全係system ram度.ddr5 6000來講.

llm就真係差好遠.

via HKEPC IR 5.1.14 - Android(5.1.2F)

s84292

即係用linux的話, 就無左driver既問題, 用amd同nvidia已經無分別?
但Linus唔係FAQ nvidia, 話佢D driver ...
3ldk 發表於 2025-12-15 10:06

邊度冇多RAM版本？

NVIDIA RTX PRO™ 6000 咪96GB
NVIDIA RTX PRO™ 5000 咪48GB
香港都有得買

仲有NVIDIA DGX Spark 128GB ，DELL ASUS HP都有賣，都係3萬幾ONLY

ponghk

咁mac可以用512G video ram又確實係幾完美既
但mac的gpu唔係n, 甚至都唔係a, 咁會唔會有ai工具唔支援的問 ...
3ldk 發表於 2025-12-15 09:25 PM

我自己行 NV, 其他唔係太熟. 以我所知, 行 llm 即 DeepSeek 果類. 問佢問題, 叫佢寫文做分析. NV, AMD, Mac 都行到.  如果 gen 圖+片 99% 買 NV, Mac 都玩到少少但差距太大, AMD GPU 就算行到你最好都當佢夾硬黎.

因為唔係個個人都只係用黎 gen A 圖 gen A 片, 更加多既人行 llm 平時係做日常和工作上的分析.

ponghk

回覆  3ldk


Nvdia DGX Spark下月有賣, 好似wellent街鋪一月有Dell Pro Max with GB10賣(DGX Spark), 不 ...
CallPut 發表於 2025-12-29 04:58 PM

我有諗過入手 DGX Spark. 而家都有 Asus, MSI 既  DGX Spark 賣. 下個月有 Dell 版? 但佢得5070 算力, 而且得 128GB VRAM+OS RAM, 依個價有少少唔上唔落, 因為 load 大既 llm 得 128 又擺唔入. 如果自己想 fine tune 或者 train video lora 都未必夠 ram. 買兩部行 cluster 不如比多少少入 RTX 5000 Pro 72GB 或 RTX Pro 6000 96GB. 我都係一般應用, 二三萬都極限.

係喎. Dell Pro Max GB10 FCM1253 128Gb 2Tb-SSD Graphic AI 桌上型電腦
$31,990

ponghk

我唔知理解有無錯,gen圖,vram同system ram無好多人想像中差咁遠.你搵係同類既會爆vram,除左load果下,隨時快 ...
ki_cat 發表於 2025-12-30 10:03 AM

llm 好睇 ram 速度, 佢要係一個好大 database 搵資料.  gen 圖 gen 片主要睇 GPU 算力, 有 24~32GB VRAM 足夠. 係 gen 720p 片先要多 vram + ram, 暫時地球上本機部署 gen 片最好得 wan 2.2, 我睇過晒 4090 24GB, 4090 48GB 同 RTX Pro 6000 96GB 行 wan 2.2, 感覺上同 5090 32GB 差唔多, 4090 48GB 仲慢過 5090 32GB.

我覺得 wan 2.2 似乎對 over 32GB VRAM 無優化就真. 始終 2.2 只係 2.1 小改版, 而 2.1 已經今年二月既事. wan 2.5/2.6 係大改 ver, 但唔肯放 open sources.

4090 48GB 只比 4090 24GB 快 14%
5090 32GB 比 4090 48GB 快 25%(比 4090 24GB 快 35%)
RTX 6000 Pro 96GB 比 5090 32GB 快 32%

CallPut

就用嚟Gen圖玩多幾次就厭....有無更好玩玩法或者實用玩法分享下??