🎯 嫌 litellm 太臃肿的看这个——litelm 只用大约 2900 行代码、两个依赖,就把调各家大模型这件事给包圆了。
它支持按「提供商/模型名」的写法一键路由到 19 个大模型平台,OpenAI、Anthropic、Groq、Mistral 这些都能直接调。
很多人用 litellm 是图它能统一各家 API,但那套东西越做越大,Router、代理服务器、缓存、成本统计全塞进来,大部分功能其实用不上。litelm 的思路是只留最常用的路由和消息格式转换,函数名、参数、返回值都跟 litellm 对齐,连异步版本都给你配齐,DSPy 里还能直接拿它替换。
代码本身是作者带着 Claude Code 一起写出来的,目前还在 Alpha 阶段,尝鲜可以,别急着上生产。
GitHub:
顯示更多