Pi 现在连底层运行时都被社区玩出新花样了,一个编译成原生机器码,另一个干脆用 Rust 重写🔥
最近发现两个挺有意思的项目,都不是简单给 Pi 加插件,而是在折腾Pi本身的运行性能和架构
感觉非常有意思,就直接分享给大家
1、Pi-Bolt:给 Pi 装上性能加速器
这个项目没有推翻原来的 Pi,而是通过 AOT 提前把代码编译成机器码,启动时不用再进行 JIT 编译,也不需要安装 Node.js 或 Bun
项目作者的 Linux 测试中:
启动就绪:45ms,原版 Pi on Bun 为 382ms
交互会话 CPU 开销降低约 6 倍
长文本 Streaming、文件写入也有明显优化
更重要的是,原来的 Session、Provider、配置和大部分 Extension 都能继续使用,不需要重新搭一套环境
不过默认版本关闭了 JIT,计算密集型插件建议使用专门的 JIT 构建版本
2、pi-rs:直接用 Rust 重写整个 Pi
这个就更硬核了,不是简单移植 Agent Loop,而是把模型接入、TUI、工具系统、Session 和 RPC 都重新实现了一遍
最有意思的是,它还内嵌了 Boa JavaScript 引擎,让原来的 TypeScript Extension 也有机会直接运行
同时尽量兼容 Pi 原来的配置文件和 Session 格式,甚至连 JSON 输出和终端渲染行为都在做对齐测试
不过项目还在完善兼容性,部分 Node API 和 Windows 终端能力仍有限制
这两个项目放在一起挺有意思
Pi-Bolt 选择保留原来的实现,通过编译和运行时优化提升性能;pi-rs 则尝试用 Rust 重新实现整个 Harness
如果你经常在 VPS、本地终端或者资源有限的设备上运行 Pi,这两个项目都值得关注
需要注意,这些优化主要针对本地运行时,并不意味着模型生成 Token 的速度也会跟着提升
顯示更多