注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 ONNX
ONNX 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 ONNX 的推特
告别黄昏的卫城,今日飞往巴黎🇫🇷
0
5
116
1
转发到社区
可以跑在浏览器器的 OCR 模型: PP-OCRv6 它的 Tiny 版本只有 1.5M 参数, 专门面向浏览器和边缘设备场景做了优化, 可以基于 ONNX Runtime Web 在浏览器端直接运行, 用 Electron 做客户端的朋友,这个方向可以冲一波了
显示更多
我尼玛可以哟,同样跑 Agent 任务成本砍到 1/9——OpenSquilla,6134 个 Star!0.5.0 Preview 4,微内核 AI Agent。 一句话:本地模型路由器把每一轮对话分给“够用且最便宜”的模型,同预算换更高智能密度。 核心不是又一个聊天壳,而是把 Agent 运行层做成了省 token 的 harness: (1)SquillaRouter 本地路由——LightGBM + ONNX 分类器在本地给每轮打分,按 C0-C3 层级选模型,路由判断不把 prompt 送出机器。 (2)自适应推理和 Prompt——简单任务轻量处理,复杂任务才开扩展推理和完整系统提示,尽量不把 token 浪费在废话上。 (3)20+ LLM 提供商——OpenAI、Anthropic、OpenRouter、Ollama、DeepSeek、Gemini、Qwen/DashScope 等都能接,主备选择不动代码和配置结构。 (4)技能按需加载 + MCP——15 个内置技能用到才加载;既能当 MCP client,也能跑成 MCP server。 (5)本地持久记忆——MEMORY.md + 日期 Markdown 笔记,SQLite 全文搜索和 sqlite-vec 语义召回,embedding 可走本地 ONNX。 (6)分层安全沙箱——Standard/Strict/Locked 三档权限矩阵,Linux 用 Bubblewrap,macOS 走 Seatbelt,敏感操作可接人工审批。 它把 Web UI、CLI、聊天频道都接到同一个 TurnRunner,工具分发、重试、决策日志行为一致;还有会话/子代理/定时任务、成本统计,适合长期跑 Agent 工作流。 官方 PinchBench 1.2.1 的 25 个任务里,OpenSquilla 平均分 0.9251、总成本 ;对照是、6.233。分数几乎贴住,成本差了一个数量级,这就很牛逼了。 支持 Windows、macOS、Linux;可桌面安装、终端安装,也能从源码跑。适合想用 Agent 干活、但不想每轮都硬烧顶配模型预算的兄弟。 好东西转给需要的兄弟。🚀 #AIAgent# #开源工具# #老杨啊分享#
显示更多