註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 ONNX
ONNX 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 ONNX 的搜尋結果
告别黄昏的卫城,今日飞往巴黎🇫🇷
0
5
116
1
轉發到社區
可以跑在浏览器器的 OCR 模型: PP-OCRv6 它的 Tiny 版本只有 1.5M 参数, 专门面向浏览器和边缘设备场景做了优化, 可以基于 ONNX Runtime Web 在浏览器端直接运行, 用 Electron 做客户端的朋友,这个方向可以冲一波了
顯示更多
我尼玛可以哟,同样跑 Agent 任务成本砍到 1/9——OpenSquilla,6134 个 Star!0.5.0 Preview 4,微内核 AI Agent。 一句话:本地模型路由器把每一轮对话分给“够用且最便宜”的模型,同预算换更高智能密度。 核心不是又一个聊天壳,而是把 Agent 运行层做成了省 token 的 harness: (1)SquillaRouter 本地路由——LightGBM + ONNX 分类器在本地给每轮打分,按 C0-C3 层级选模型,路由判断不把 prompt 送出机器。 (2)自适应推理和 Prompt——简单任务轻量处理,复杂任务才开扩展推理和完整系统提示,尽量不把 token 浪费在废话上。 (3)20+ LLM 提供商——OpenAI、Anthropic、OpenRouter、Ollama、DeepSeek、Gemini、Qwen/DashScope 等都能接,主备选择不动代码和配置结构。 (4)技能按需加载 + MCP——15 个内置技能用到才加载;既能当 MCP client,也能跑成 MCP server。 (5)本地持久记忆——MEMORY.md + 日期 Markdown 笔记,SQLite 全文搜索和 sqlite-vec 语义召回,embedding 可走本地 ONNX。 (6)分层安全沙箱——Standard/Strict/Locked 三档权限矩阵,Linux 用 Bubblewrap,macOS 走 Seatbelt,敏感操作可接人工审批。 它把 Web UI、CLI、聊天频道都接到同一个 TurnRunner,工具分发、重试、决策日志行为一致;还有会话/子代理/定时任务、成本统计,适合长期跑 Agent 工作流。 官方 PinchBench 1.2.1 的 25 个任务里,OpenSquilla 平均分 0.9251、总成本 ;对照是、6.233。分数几乎贴住,成本差了一个数量级,这就很牛逼了。 支持 Windows、macOS、Linux;可桌面安装、终端安装,也能从源码跑。适合想用 Agent 干活、但不想每轮都硬烧顶配模型预算的兄弟。 好东西转给需要的兄弟。🚀 #AIAgent# #开源工具# #老杨啊分享#
顯示更多