註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 bonsAI倶楽部
bonsAI倶楽部 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 bonsAI倶楽部 的搜尋結果
Ternary Bonsai 2 27B是PrismML做的一个“瘦身版”大模型。底子是阿里的Qwen3.8 27B,大约270亿参数,正常满精度要占五十多GB;他们把权重压成只有-1、0、+1三种取值,体积降到大约6–8GB,综合测试成绩还能保住原版的九成八左右。 直观地说:它不是又造了一个全新模型,而是把一个本来只能在服务器上跑的27B,压到笔记本也能常驻。数学、写代码这类能力掉得很少;看图、特别长的多步任务会弱一点。换来的代价是必须用他们的运行环境,官方Ollama现在还跑不了。 我在M4 Pro 48GB上运行挺流畅的:权重大约7GB,内存宽裕,生成速度大概每秒20个token,日常问答、改代码够用。适合不想把代码传出去、又想在本机用接近27B能力的人。
顯示更多
把 27B 模型压到 4GB 跑在手机上:Bonsai 1-bit 可以运行在iPhone 17Pro上的本地大模型
脑子里冒出一个需求,想丢给 Claude Code 干活,结果光是把上下文说清楚就打了半天字。 BonsAI 是一款 macOS 原生小应用,给了一块画布,把半成型的想法写成卡片,随手画图理清关系。 画布上挂着一个 Agent,用的是我们自己装的 Claude Code、Codex 或 OpenCode,能实时读取和改写整块画布。 想法整理得差不多了,可以一键复制出一份自带上下文的完整 prompt,直接喂给编程 Agent。 GitHub: 还有个连接器功能,支持连接 Notion、GitHub、Figma 等平台,能把本地文件、issue、设计稿直接放到画布上。 数据都在本地,模型用自己的 key,装好就能用。平时靠编程 Agent 干活的朋友可以在 Mac 上试试。
顯示更多