地元のLLMやって分かったんだけど、この界隈にさえ資本の暴力があるね。レシピだってテストの推論部分はRTX PRO 6000を2の倍数で4以上持っていたら即完了する。ボトルネックはレシピのニーズがあるDGX SparkのTP=2か4にあって実機テストが必要だから俺みたいなのがTP=4で誰も手をつけてない隙間見つけてRTX6000の代わりにFableやAstraやDevinの無限トークン使ってぶん殴りにいけるってだけ。Nvidia公式のGLM5.3 Flashが良い例。マネタイズするならRTX PRO6000を4台買って驚き屋すればまだ隙間あるけどおれはもうお腹いっぱい。資本の暴力に対抗するには保有者が脳死にならずに自分でレシピ作れるようになることだよ〜。その観点でおれは地元のV100界隈はリスペクトしてる。頑張れ〜。
もっと見る
