Ren
@Ryrenz
🇺🇸 美国全栈程序员 💻
⚙️ 整理小白能懂的优质 AI 教程 📚
📢 持续挖掘实用的 AI 提效方式 🤖
💰 分享我关于投资、副业、职场的思考 🧠
📝 开源我所有的内容创作与 AI 变现经验 📈
가입 March 2025
678 팔로잉 중 10.8K 팬
💻 震惊，Magnitude 能让你已经在用的 Claude Code、Codex、Cline 直接改用本地模型跑，token 账单归零。
GitHub 上 3449 star，仓库今年 6 月才建，三个月不到涨到这个数，光是最近一周 CLI 就连发了五个版本。
以前想在自己机器上跑本地模型，最劝退的一步是选型：显存这么大该配哪个模型、量化到几 bit、上下文开多长，一堆参数只能自己试，试错一次就是几十 G 的下载。Magnitude 的做法是先把你这台机器摸一遍，按硬件推荐模型，然后下载、调优、跑起来一路包到底，推测解码和并发这些优化也是它照着硬件自己配。
跑起来之后，模型、提示词和文件都留在本机，模型下完直接断网也照常用；闲置或者内存不够的时候它会自己把模型卸掉，要用再加载回来。想换模型也没被锁死，Hugging Face 上的 GGUF 拿下来就能接上。macOS 和 Linux 直接支持，Windows 走 WSL。
不用 API key，不看速率限制，Apache 2.0 开源。写代码这件事，终于可以完整地发生在自己电脑里了。
GitHub：
더 보기
