Aoke Quant 奥克队长🚩ΙΧΘΥΣ
@aoke_quant
参加 August 2018
0 フォロー中 0 ファン
买了个 Tesla V100 32G 显卡，跑在我两年前买的多开撸毛工作机上。双 CPU，128G 内存搭配 32G 内存显卡，跑跑千问 3.8-27B 4bit 看看效果能到多少 token/s
这一套下来成本不到 ¥1 万
もっと見る
