註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

GitHubDaily
@GitHub_Daily
💡 挖掘开源的价值 🧑🏻‍💻 坚持分享 GitHub 上高质量、有趣、实用的教程、AI工具、前沿 AI 技术 🧐 A list cool, interesting projects of GitHub. ✏️ 公众号:GitHubDaily
加入 May 2023
206 正在關注    85.4K 粉絲
具身模型在云端跑得挺好,一放到机器人本体上就变样,看一眼、想一下、再动手,中间隔着几百毫秒。 也许 AI 聊天慢几百毫秒没人在意,但机器人慢这一下,动作就迟滞、轨迹不连贯,任务直接失败。 就在今天,无问芯穹联合清华、上交开源了一款具身端侧推理引擎:APXInf,专门让模型在机器人上跑得更快更稳。 官方实测在 Jetson Thor 上跑 PI 0.5 模型,反应时间从 278ms 压到 26ms 以内,快了 10.7 倍,机器人也能实时控制了。 GitHub: 稳定性这块也下不少功夫,机器人是要连着跑很久的,中间不能抖、不能卡、不能突然断掉,它的设计就是围着长期运行来做的。 新模型往上接的门槛也压低了,自己训练的模型想放到机器人上跑,接入和调优不用花大把时间。 支持 PI 0.5 和 WALL-OSS 两款具身模型,桌面上的 RTX 4090 显卡和机器人常用的 Jetson Orin、Thor 都能直接部署。 它和去年开源的具身智能训练框架 RLinf 是同一个生态,从训练到部署可以在同一套工具链里走完。 正在把具身模型往机器人上部署、被延迟卡住的开发者,可以看看。
顯示更多