Register and share your invite link to earn from video plays and referrals.

Ren
@Ryrenz
🇺🇸 美国全栈程序员 💻 ⚙️ 整理小白能懂的优质 AI 教程 📚 📢 持续挖掘实用的 AI 提效方式 🤖 💰 分享我关于投资、副业、职场的思考 🧠 📝 开源我所有的内容创作与 AI 变现经验 📈
Joined March 2025
678 Following    10.8K Followers
💻 震惊,Magnitude 能让你已经在用的 Claude Code、Codex、Cline 直接改用本地模型跑,token 账单归零。 GitHub 上 3449 star,仓库今年 6 月才建,三个月不到涨到这个数,光是最近一周 CLI 就连发了五个版本。 以前想在自己机器上跑本地模型,最劝退的一步是选型:显存这么大该配哪个模型、量化到几 bit、上下文开多长,一堆参数只能自己试,试错一次就是几十 G 的下载。Magnitude 的做法是先把你这台机器摸一遍,按硬件推荐模型,然后下载、调优、跑起来一路包到底,推测解码和并发这些优化也是它照着硬件自己配。 跑起来之后,模型、提示词和文件都留在本机,模型下完直接断网也照常用;闲置或者内存不够的时候它会自己把模型卸掉,要用再加载回来。想换模型也没被锁死,Hugging Face 上的 GGUF 拿下来就能接上。macOS 和 Linux 直接支持,Windows 走 WSL。 不用 API key,不看速率限制,Apache 2.0 开源。写代码这件事,终于可以完整地发生在自己电脑里了。 GitHub:
Show more