TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
宝玉
@dotey
AI Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.
参加 April 2007
1.8K
フォロー中
268.2K
ファン
宝玉
@dotey
2026.09.29 23:14
Anthropic 测试智谱 GLM-5.3:能写出可用的攻击程序,防护容易被绕过 Anthropic 今天发布研究报告,称智谱 AI 的开源模型 GLM-5.3 已经能独立写出可用的网络攻击程序,水平接近 Anthropic 只向少数机构开放的 Claude Mythos Preview,而它的安全防护用简单手段就能绕过。 报告用两项测试衡量模型写“漏洞利用代码”的能力,也就是把软件里的安全缺陷变成真正能攻进系统的程序。在针对 Chrome V8 引擎(浏览器里负责执行网页脚本的部分)的 ExploitBench 上,GLM-5.3 成功率 12%,Mythos Preview 是 14%,更早的模型基本为 0。在 Anthropic 自己的二进制漏洞利用测试上,两者分别是 4% 和 6%。 实际演示更直观。研究人员用 GLM-5.3 在一天内找出某款主流浏览器 JavaScript 引擎里的多个零日漏洞(厂商还不知道、没有补丁的漏洞),串成一个网页:用户只要打开它,电脑里的任意文件就能被读走。这些漏洞已报告给维护方。另一次测试中,它针对一个已公开的漏洞写出攻击程序,人只投入了 20 分钟,模型运行 8 小时,花费 20.40 美元。 GLM-5.3 本身会拒绝明显的恶意请求,但报告测了三种绕过方式:编一个正当理由骗它,成功率 64%;预先替它写好一段“思考过程”,成功率 92%;直接修改模型权重去掉拒绝机制(业内称 abliteration),成功率 100%。Anthropic 表示同样的手段在带防护的 Claude 模型上都没有成功。前两项测试在隔离环境中进行,模型拿到的是一个假的命令行工具,生成的代码不会真正执行。 修改权重的门槛也不高。Anthropic 团队用了约 2200 个 GPU 小时、约 4400 美元,就把 GLM-5.3 对有害请求的拒绝率从 95% 降到 6%,通用能力基本不受影响。更小的 GLM-5.3-Flash 只需约 600 个 GPU 小时。 美国国家标准与技术研究院下属的 AI 标准与创新中心(CAISI)评估,GLM-5.3 的网络能力比美国最前沿模型落后约四个月。报告指出,差距虽在,获取门槛却完全不同:Mythos Preview 只通过 Glasswing 项目提供给经过筛选的网络防御方,GLM-5.3 任何人都能下载和改造。 报告建议政府对能力足够强的模型开展安全测试,把前沿模型更多开放给网络防御机构,并要求模型开发者对这类能力加以防护。
もっと見る
0
0
43
170
23
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
2M ファン
ツイッター速報〜BreakingNews
@tweetsoku1
260.1K ファン
TVer新着
@TVer_info
101.7K ファン
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K ファン
New York Post
@nypost
4.3M ファン
モデルプレス
@modelpress
2.1M ファン
First Squawk
@FirstSquawk
578.2K ファン
MANTANWEB/毎日キレイ
@mantanweb
68.7K ファン
ファミ通.com
@famitsu
1.4M ファン
Reuters
@Reuters
26.4M ファン
cv usk
@cv_usk
470 ファン
Yahoo!ニュース
@YahooNewsTopics
2.1M ファン
4Gamer
@4GamerNews
735K ファン
空空道人
@Kongkongda5882
39.7K ファン
一劍浣春秋
@chee828
233.1K ファン