註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

shi3z
@shi3z
ハッカー / テクニカルエンスージアスト / ギリア株式会社ファウンダー・顧問 / FreeAI ltd.共同創業者 / YouTubeチャンネル
加入 April 2007
1.7K 正在關注    27K 粉絲
#搭載メモリ量に対する反応# GPU編 1MB...PS1 4MB...PS2 32MB...GeForce2 GTS 64MB…GeForce3 Ti 200 128MB…ATI Radeon 8500 256MB…PS3 512MB…Xbox360(ユニファイドメモリ) 1GB…NVIDIA GeForce 8800 GT 2GB…WiiU 4GB…M5Stack LLM Module 8GB…ギリギリAIが動くが全然足りない 16GB...量子化されたAIが動くがまだ足りない 24GB...量子化モデルは大体使える 32GB...とりあえず大体のモデルは使える 48GB...まあまあ使える。できればデュアルで運用したい 80GB...サーバー級 モデルの訓練ができる 96GB...サーバー級 モデルの訓練ができて高速 160GB...1.58ビット量子化したDeepSeek-R1がギリギリ動く 320GB...2.2ビット量子化したDeepSeek V4.1 Flashが動く 640GB...4ビット量子化したDeepSeekが乗る 1.2TB...FP8のDeepSeekが乗る 2.4TB...やっとBF16のDeepSeekが乗る 12TB...やっとBF16のDeepSeekをGPUのみでフルファインチューニング可能に
顯示更多
0
0
104
15
轉發到社區