Avarok Cybersecurity 开源了 Atlas，一个用 Rust + CUDA 从零写的大模型推理引擎。它不依赖 Python 和 PyTorch，项目方称 Docker 镜像约 2.5GB，冷启动不到 2 分钟，目前主要面向 NVIDIA DGX Spark 的 GB10 平台优化。 官网模型矩阵显示，Atlas 在单台 DGX Spark 上跑 Qwen3.5-35B-A3B 可到约 130 tok/s，跑 Qwen3.6-35B-A3B 约 71 tok/s。Atlas 官网和 Hugging Face 页面称，在同硬件下，Qwen3.5-35B 平均约 111 tok/s、峰值 130 tok/s，vLLM 约 37 至 38 tok/s。 这组「3 倍 vLLM」数据来自项目方公开基准。GitHub README 写明，测试使用的是「法国首都是哪」这类短 prompt，生成上限不超过 30 个 token，temperature 为 0.1。这个口径更接近短请求、低并发、快速响应场景，也正好对应 Atlas 想打的卖点：用更小镜像、更少依赖和更快冷启动，把本地大模型服务变得更轻。 Atlas 现在仍是早期项目，真实生产场景还要看后续长文本、高并发和复杂工具调用测试。GitHub 上已有用户反馈输出质量和工具调用稳定性问题，相关 Issue 截至 2026 年 5 月 11 日仍处于 Open 状态。对开发者来说，它更像一个值得关注的新推理底座，而不是已经能全面替代 vLLM 的成熟方案。

想多看一些Ai界最有有影响力的顶级英文大佬的输出，却不知道该关注谁？我发现了一个免费的神级网站： MIT的同学通过爬虫和评级找出来了最值得关注的300个博主。 以我最喜欢的科学家 李飞飞 @drfeifei 为例，你可以找到她跟谁互动最多、关联的社区，属于什么类别。 排名前20的账户： 1.OpenAI (@OpenAI) 全球领先的 AI 研究公司 2.Lex Fridman (@lexfridman)：知名播客主持人、MIT 研究员，常与 AI 顶尖大佬进行深度对谈 3.Sam Altman (@sama)：OpenAI 首席执行官 4.Satya Nadella (@satyanadella)：微软 CEO，推动了微软与 OpenAI 的深度整合。 5.NVIDIA GeForce (@NVIDIAGeForce)：英伟达游戏显卡官方号，展示 AI 在图形与游戏中的应用 6.Aaron Levie (@levie)：Box 首席执行官，以对 AI 产业的犀利观察和幽默评论著称 7.NVIDIA (@nvidia)：AI 算力霸主英伟达的官方账号，发布底层硬件与基础设施动态 8. Google AI (@GoogleAI)：谷歌 AI 部门官方账号，涵盖其最新的科研成果 9. xAI (@xai)：埃隆·马斯克旗下 AI 公司的官号，Grok 10. Andrej Karpathy (@karpathy)：前特斯拉 AI 负责人、OpenAI 创始成员，著名的 AI 教育者 11.Brian Armstrong (@brian_armstrong)：Coinbase CEO，关注 AI 与加密技术的交叉领域 12.Andrew Ng (@AndrewYNg)：吴恩达，AI 界的“一代宗师”，在线教育与机器学习的普及者 13. Google DeepMind (@GoogleDeepMind)：谷歌旗下的顶尖 AI 实验室，专注通用人工智能（AGI） 14. Microsoft Azure (@Azure)：微软云平台官号，关注 AI 模型在企业级的部署与应用 15. Steven Johnson (@stevenbjohnson)：知名科普作家，关注 AI 对人类文明与创新的影响 16. Yann LeCun (@ylecun)：Meta 首席 AI 科学家，图灵奖得主，以敢于挑战主流 AI 观点著称 17. Greg Brockman (@gdb)：OpenAI 联合创始人兼总裁，常分享技术细节和产品演示 18. Anthropic (@AnthropicAI)：由前 OpenAI 成员创立的 AI 安全公司，Claude 的开发者 19. Visual Studio Code (@code)：程序员最爱的代码编辑器，正通过 AI（Copilot）重塑编程 20. Demis Hassabis (@demishassabis)：DeepMind 创始人兼 CEO，致力于通过 AI 解决科学难题