shi3z
@shi3z
ハッカー / テクニカルエンスージアスト / ギリア株式会社ファウンダー・顧問 / FreeAI ltd.共同創業者 / YouTubeチャンネル
Joined April 2007
1.7K Following 26.9K Followers
#搭載メモリ量に対する反応#
GPU編
1MB...PS1
4MB...PS2
32MB...GeForce2 GTS
64MB…GeForce3 Ti 200
128MB…ATI Radeon 8500
256MB…PS3
512MB…Xbox360(ユニファイドメモリ)
1GB…NVIDIA GeForce 8800 GT
2GB…WiiU
4GB…M5Stack LLM Module
8GB…ギリギリAIが動くが全然足りない
16GB...量子化されたAIが動くがまだ足りない
24GB...量子化モデルは大体使える
32GB...とりあえず大体のモデルは使える
48GB...まあまあ使える。できればデュアルで運用したい
80GB...サーバー級 モデルの訓練ができる
96GB...サーバー級 モデルの訓練ができて高速
160GB...1.58ビット量子化したDeepSeek-R1がギリギリ動く
320GB...2.2ビット量子化したDeepSeek V4.1 Flashが動く
640GB...4ビット量子化したDeepSeekが乗る
1.2TB...FP8のDeepSeekが乗る
2.4TB...やっとBF16のDeepSeekが乗る
12TB...やっとBF16のDeepSeekをGPUのみでフルファインチューニング可能に
Show more
