简单了解了下，lightning（即 PyTorch Lightning / Lightning AI 框架）在深度学习和 PyTorch 生态里非常流行… 所以，最近的投毒喜欢干玩 AI 工程的技术人员？🤦🏻‍♂️顺便干掉依赖这些的各大服务。

Avarok Cybersecurity 开源了 Atlas，一个用 Rust + CUDA 从零写的大模型推理引擎。它不依赖 Python 和 PyTorch，项目方称 Docker 镜像约 2.5GB，冷启动不到 2 分钟，目前主要面向 NVIDIA DGX Spark 的 GB10 平台优化。 官网模型矩阵显示，Atlas 在单台 DGX Spark 上跑 Qwen3.5-35B-A3B 可到约 130 tok/s，跑 Qwen3.6-35B-A3B 约 71 tok/s。Atlas 官网和 Hugging Face 页面称，在同硬件下，Qwen3.5-35B 平均约 111 tok/s、峰值 130 tok/s，vLLM 约 37 至 38 tok/s。 这组「3 倍 vLLM」数据来自项目方公开基准。GitHub README 写明，测试使用的是「法国首都是哪」这类短 prompt，生成上限不超过 30 个 token，temperature 为 0.1。这个口径更接近短请求、低并发、快速响应场景，也正好对应 Atlas 想打的卖点：用更小镜像、更少依赖和更快冷启动，把本地大模型服务变得更轻。 Atlas 现在仍是早期项目，真实生产场景还要看后续长文本、高并发和复杂工具调用测试。GitHub 上已有用户反馈输出质量和工具调用稳定性问题，相关 Issue 截至 2026 年 5 月 11 日仍处于 Open 状态。对开发者来说，它更像一个值得关注的新推理底座，而不是已经能全面替代 vLLM 的成熟方案。

这个项目基本把当下最值得关注的开源 AI 资源全部整理完毕 全部是行业标杆，从各种底层训练框架PyTorch、JAX，再到DeepSeek、Gemma前沿开放模型然后Ollama 这些本地部署工具，一路覆盖到 RAG 检索、Agent 框架、AI 安全、生产部署，每个方向都帮你选好了代表性项目，省去了自己大海捞针的时间。