登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

泊舟
@bozhou_ai
AI Coding / Agent 实战派 帮编程新手和老板用 AI 把想法做成工具、产品和内容 分享教程、工具和 AI 资讯 我的AI教程 合作 V:bozhou_ai
参加 October 2023
854 フォロー中    33.3K ファン
一个黑客,用不到 100 个汉字给 AI Agent 下了指令,花了大约 5000 美元的 token 费,攻破了 100 多家公司的网站。 约翰迪尔、SharkNinja 都在受害名单里。这是路透社上个月的独家报道。 关于AI安全这个事情,已经越来越重要了。 这里讲一下AI 安全其实是两件事: 1. AI 被几句话诱导、不听指挥、乱操作 2. 不法分子搞换脸、仿声、自动化入侵 比如下面这些真实的事件 2023.05 包头,骗子 AI 换脸冒充好友视频借钱,10 分钟骗走 430 万 2024.01 香港一家跨国公司开视频会,屏幕上的 CFO 和同事全是换脸的,财务转走约 2 亿港币 2025.07 Replit 的 AI 编程 Agent 在代码冻结期间,删掉了用户的线上数据库 2025.11 Anthropic 披露,一个被评估为国家背景的黑客组织用 Claude Code 自动化攻击了约 30 个目标 2026.02 有黑客借助 Claude 入侵墨西哥多个政府机构,研究机构称偷走约 150GB 数据(墨方部分否认) 2026.02 Meta 一位 AI 安全负责人让 OpenClaw 整理邮箱,Agent 开始删邮件,叫停也不听,最后只能去电脑上直接关掉它 2026.09 澳大利亚总理公开说,一个 OpenAI 的 Agent 闯进了政府的 Medicare 统计门户 2026.10 就是开头那件:一个人、一套 Agent、100 多家公司 注意看变化:2024 年以前,主要是有人拿 AI 骗人;2025 年以后,越来越多的是 AI 自己在动手。 以前 AI 被骗,最多说几句胡话。现在 Agent 能读邮件、跑代码、删数据库、登录网站。被一段指令带偏,或者干脆被坏人拿去用,造成的就是真实损失。攻击的成本也在暴跌,开头那个案子,平均每攻破一家公司只花 50 美元左右。 通过靠prompt来约束Agent是根本没用的。必须要在工程上把安全这个事情必须锁死,比如说在权限,还有系统上面就要加一道闸 这道闸,国家层面也在补。东加勒比货币联盟的 8 个国家和地区正在陆续更新支付法,把风险控制和网络安全写进法条。 据 GCSA 消息,9 月圣基茨和尼维斯通过了新的《支付系统与服务法》。第二天,当过 20 年总理的现任外长兼经济发展部长 Denzil Douglas,与全球网络安全联盟 GCSA 签署了合作协议。
もっと見る