Mr Panda
@PandaTalk8
程序员、在X上分享 AI 构建、内容创作、独立创业与X增长方法
加入 July 2017
5.4K 正在关注 77.3K 粉丝
这是一个本地运行大模型的硬件与配置指南。
作者分享了从约 2000 美元到 4 万美元级别的本地 LLM 方案：
便宜方案可用双 RTX 3090 跑 Qwen 和本地语音转文字；
高端方案用 4 张 RTX PRO 6000，384GB VRAM，接近 Claude Opus 级别体验。
内容包括硬件清单、PCIe switch、GPU 通信、Docker 配置、STT、本地模型权重管理等。
显示更多
