AI 破解一切!现在安卓手机都能直接玩 Steam 游戏了。
我刚试了 DroidDeck,像《哈迪斯》这类独立游戏全能跑。出门带个小手柄和支持 DPin 的 Pad 就能爽玩。翻了翻代码,作者大量用 AI攻克生疏技术栈,并重度用 Agent 做自动化测试。
从几天复刻剪映到打通跨端游戏,当 Agent 拥有底层执行与逆向能力时,失控风险也指数级放大——一旦被用来攻击金融系统或越权泄密,破坏力不可逆。
这也是为什么字节跳动 Seed 最近国内首家独立设立了“大模型安全与对齐(Model-Alignment & Preparedness)”一级研发建制,由严林挂帅直报一号位吴永辉,合并 Responsible AI 与 部分Chat 团队成员
什么是真正的对齐?核心是让模型行为与人类意图及安全约束严格一致。
既要防它在逆向或调试时越权盗取本地凭据(防失控),又要防外部恶意注入诱导它攻击金融网络(防滥用)。需要从制定规范、对抗评测、对齐训练到沙盒监控全流程把安全炼进模型骨子里。
他们这次主攻两大硬仗:
一是 Agent 系统权限安全,死磕防提示词注入、越权操作与环境破坏;
二是 CBRN 前沿极端风险防范。
正如字节内部的定调:安全对齐不是合规外挂,而是决定模型能否走出沙盒、规模化落地的核心能力。能逆向破解固然酷,但立稳安全护栏才是真壁垒。
顯示更多