想用魔改卡裝係NAS學玩AI

Smallduck456

屋企有部unraid NAS, 打算入手張顯卡學人學下玩AI應用
見黃魚RTX3060M價錢相宜(平過3060),顯存亦充足(12GB), cuda又多D
但係上網睇好似無官方驅動, 咁係nas上既linux系統應該都唔會自動裝到driver?
見github有其他人改既driver,但有冇師兄試過係NAS系統安裝依D自定義驅動?
係唔係sudo 就咩都可以靠指令改到個系統?
定係unraid個應用市場裡個nvidia driver已經可以support到魔改顯卡??
有冇師兄有經驗分享一下,謝謝

高級嘍囉

玩AI要平可以諗下拆機server GPU，不過無output port無散熱風扇，技術要求高啲。一年前未流行AI繪圖時真係平到你唔信，依家炒返貴無咁抵玩了。

s84292

屋企有部unraid NAS, 打算入手張顯卡學人學下玩AI應用
見黃魚RTX3060M價錢相宜(平過3060),顯存亦充足(12GB) ...
Smallduck456 發表於 2024-11-14 08:55

認真，學玩AI 一定係cloud平台，又有免費鐘
就算比錢都好平，仲要人地係4090 A100冇VRAM唔夠問題

除非你真係好似我一日做AI訓練做足20個鐘以上，否則CLOUD 服務一定最低成本
3060M行的野有限

smt311

認真，學玩AI 一定係cloud平台，又有免費鐘
就算比錢都好平，仲要人地係4090 A100冇VRAM唔夠問題

除非你 ...
s84292 發表於 2024-11-15 09:15

    師兄意思係租cloud + gpu 行ai, 定現成用openai 個類平台？

s84292

師兄意思係租cloud + gpu 行ai, 定現成用openai 個類平台？
smt311 發表於 2024-11-18 04:37

睇你行咩類型的ai

Lora 訓練 ai 畫圖都有按圖或者算力課金，或者免費額度。
唔洗起機，人地做好晒丟野入去就可以
玩ai LLM 咁基本多數要訓練，如要自己hold 資料就一定要租vps gpu 咁玩
按小時算，但量少都一定係租抵（2.5~3蚊一個鐘4090 vps,就黎平過電費)
訓練完下載返落黎本地用

但唔洗做訓練，單純用，比如Open ai
個d 唔叫玩ai 了，係用ai
就更加冇需要自組