TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
泊舟
@bozhou_ai
AI Coding / Agent 实战派 帮编程新手和老板用 AI 把想法做成工具、产品和内容 分享教程、工具和 AI 资讯 我的AI教程 合作 V:bozhou_ai
Joined October 2023
854
Following
33.3K
Followers
泊舟
@bozhou_ai
2026.11.07 16:56
一个黑客,用不到 100 个汉字给 AI Agent 下了指令,花了大约 5000 美元的 token 费,攻破了 100 多家公司的网站。 约翰迪尔、SharkNinja 都在受害名单里。这是路透社上个月的独家报道。 关于AI安全这个事情,已经越来越重要了。 这里讲一下AI 安全其实是两件事: 1. AI 被几句话诱导、不听指挥、乱操作 2. 不法分子搞换脸、仿声、自动化入侵 比如下面这些真实的事件 2023.05 包头,骗子 AI 换脸冒充好友视频借钱,10 分钟骗走 430 万 2024.01 香港一家跨国公司开视频会,屏幕上的 CFO 和同事全是换脸的,财务转走约 2 亿港币 2025.07 Replit 的 AI 编程 Agent 在代码冻结期间,删掉了用户的线上数据库 2025.11 Anthropic 披露,一个被评估为国家背景的黑客组织用 Claude Code 自动化攻击了约 30 个目标 2026.02 有黑客借助 Claude 入侵墨西哥多个政府机构,研究机构称偷走约 150GB 数据(墨方部分否认) 2026.02 Meta 一位 AI 安全负责人让 OpenClaw 整理邮箱,Agent 开始删邮件,叫停也不听,最后只能去电脑上直接关掉它 2026.09 澳大利亚总理公开说,一个 OpenAI 的 Agent 闯进了政府的 Medicare 统计门户 2026.10 就是开头那件:一个人、一套 Agent、100 多家公司 注意看变化:2024 年以前,主要是有人拿 AI 骗人;2025 年以后,越来越多的是 AI 自己在动手。 以前 AI 被骗,最多说几句胡话。现在 Agent 能读邮件、跑代码、删数据库、登录网站。被一段指令带偏,或者干脆被坏人拿去用,造成的就是真实损失。攻击的成本也在暴跌,开头那个案子,平均每攻破一家公司只花 50 美元左右。 通过靠prompt来约束Agent是根本没用的。必须要在工程上把安全这个事情必须锁死,比如说在权限,还有系统上面就要加一道闸 这道闸,国家层面也在补。东加勒比货币联盟的 8 个国家和地区正在陆续更新支付法,把风险控制和网络安全写进法条。 据 GCSA 消息,9 月圣基茨和尼维斯通过了新的《支付系统与服务法》。第二天,当过 20 年总理的现任外长兼经济发展部长 Denzil Douglas,与全球网络安全联盟 GCSA 签署了合作协议。
Show more
0
0
2
5
2
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
959K Followers
First Squawk
@FirstSquawk
579.6K Followers
Binance Wallet
@BinanceWallet
2.8M Followers
Serenity
@aleabitoreddit
1.1M Followers
LiveSquawk
@LiveSquawk
504.1K Followers
Binance
@binance
16.1M Followers
CNBC
@CNBC
6.3M Followers
ClaudeDevs
@ClaudeDevs
830.4K Followers
Seeking Alpha
@SeekingAlpha
348.2K Followers
New York Post
@nypost
4.3M Followers
The Wall Street Journal
@WSJ
22.3M Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
640.9K Followers
Thariq
@trq212
404.2K Followers