TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
GitHubDaily
@GitHub_Daily
💡 挖掘开源的价值 🧑🏻💻 坚持分享 GitHub 上高质量、有趣、实用的教程、AI工具、前沿 AI 技术 🧐 A list cool, interesting projects of GitHub. ✏️ 公众号:GitHubDaily
Joined May 2023
209
Following
90.8K
Followers
GitHubDaily
@GitHub_Daily
2026.09.05 00:00
想给 Agent 换本地模型省点 token,装好 Ollama 随手拉一个模型,跑起来超级慢,内存也被撑爆。 Magnitude 这个开源推理服务器换了个做法,先给机器做体检,芯片、内存、带宽摸一遍,再推荐哪些模型装得下、大概能跑多快。 选定之后它负责下载、调参、常驻后台跑,模型要用时才加载,闲置或内存吃紧就自动卸掉,不用我们盯着。 GitHub: 接入方式挺省事,一句话直接丢给手头的 Agent ,它自己就会装工具、挑模型、把配置改到本地模型上。 支持 Claude Code、Codex、OpenCode、Cline 等 8 个工具接入,推理加速和并发参数也按这台机器预先调好。 模型、提示词、文件全在本机,下载完断网照用。Mac 内存大又心疼 token 的,可以试试。
Show more
0
0
22
92
15
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
959K Followers
First Squawk
@FirstSquawk
579.6K Followers
Binance Wallet
@BinanceWallet
2.8M Followers
Serenity
@aleabitoreddit
1.1M Followers
LiveSquawk
@LiveSquawk
504.2K Followers
Binance
@binance
16.1M Followers
ClaudeDevs
@ClaudeDevs
830.7K Followers
CNBC
@CNBC
6.3M Followers
New York Post
@nypost
4.3M Followers
Seeking Alpha
@SeekingAlpha
348.2K Followers
The Wall Street Journal
@WSJ
22.3M Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
640.9K Followers
Thariq
@trq212
404.2K Followers