Long | 科技与商业沉思录
@longgelongmei
大厂通信工程师 ➡️ 摆地摊/自创智能硬件品牌 ➡️ AI与算力产业规划专家。经历过真实的商业毒打，也看得见顶层的技术趋势。一个“孤独的创业者”，每天分享高价值的AI资讯、底层商业逻辑与生活随想。
가입 August 2019
2.2K 팔로잉 중 815 팬
研究一下
这是一个本地运行大模型的硬件与配置指南。
作者分享了从约 2000 美元到 4 万美元级别的本地 LLM 方案：
便宜方案可用双 RTX 3090 跑 Qwen 和本地语音转文字；
高端方案用 4 张 RTX PRO 6000，384GB VRAM，接近 Claude Opus 级别体验。
内容包括硬件清单、PCIe switch、GPU 通信、Docker 配置、STT、本地模型权重管理等。
더 보기
