Lonely
@Lonely__MH
👨💻 独立开发者 | AI Builder | 互联网打杂
💻 Hermes Agent & AI 工具实战测评
💡 聊聊前沿 AI 资讯、写写小白硬核教程
世界是个巨大草台班子，你我皆在台上
格言：生命不息，Bug不止
📮 商务DM | 交流👉🏻：
Joined December 2014
784 Following 21.7K Followers
🎉好消息，Mac 也可以本地部署MiniMax H3了！
坏消息：需要 M3 Max、M5 Max 至少 64G 才能跑起来🙃
这个项目最有意思的地方，是它没有依赖 PyTorch 作为主要执行环境，而是在非常贴近硬件的层面实现 H3：包括 BF16、Metal TensorOps、量化矩阵乘法、权重映射、流式加载、算子融合和 VAE 分块处理
传送门👉🏻：
Show more
Fast H3 implementation for Metal. Enjoy, modify, and so forth: Contains code from @liuliu which is welcomed in taking back whatever parts he likes for @drawthingsapp in case there are H3 plans there.
Show more
