iwashi / Yoshimasa Iwase(@iwashi86):OpenAIの評価用AIエージェントが自律的にHugging Faceのインフラへ侵入した事件の技術タイムラインを記したHFのポスト。かなり詳しく書かれている。個人的には、想像よりやばい動きをしていると思った。翻訳ツールを使って読んでおいた方が良いと思う。ちょいメモ。・侵入後はクラスターのシークレットを読み取り、社内VPNキーなどを窃取した・さらに乗っ取ったノードを社内VPNに登録し、内部のソースコード管理へアクセスしている・C2（Command and Control）には専用サーバーを使わず、ペーストビン等の公開サービスを悪用・通信が遮断されると自律的にDNSを書き換えるなど、極めてしぶとく活動する・機械的なスピードで実行されたアクションは17,600回にも及ぶ・HFの調査チームは、膨大な攻撃ログの解析にAIを使おうとした・ただ、Claudeなどの商用モデルは安全ガードレールが働き、解析を拒否・結局、オープンモデルのGLM-5.2を自社ホストしてペイロードの解読に成功している・AIエージェントによる攻撃は圧倒的な手数を誇・防御側の前提を根本から変えてくる

iwashi / Yoshimasa Iwase

@iwashi86

NTTドコモビジネスでEM(育休中)。その他、早稲田大で非常勤講師、#fukabori#.fmの中の人、書籍翻訳者。 AI、マネジメント、Dev、PdM、Agile、HRに関する個人メモをポストしています。発言は個人の見解であり、所属する組織の公式見解ではありません。 Amazonアソシエイト・プログラム参加者。

Joined May 2009

694 Following 20.4K Followers

iwashi / Yoshimasa Iwase@iwashi86

2026.07.31 02:00

OpenAIの評価用AIエージェントが自律的にHugging Faceのインフラへ侵入した事件の技術タイムラインを記したHFのポスト。かなり詳しく書かれている。個人的には、想像よりやばい動きをしていると思った。翻訳ツールを使って読んでおいた方が良いと思う。ちょいメモ。・侵入後はクラスターのシークレットを読み取り、社内VPNキーなどを窃取した・さらに乗っ取ったノードを社内VPNに登録し、内部のソースコード管理へアクセスしている・C2（Command and Control）には専用サーバーを使わず、ペーストビン等の公開サービスを悪用・通信が遮断されると自律的にDNSを書き換えるなど、極めてしぶとく活動する・機械的なスピードで実行されたアクションは17,600回にも及ぶ・HFの調査チームは、膨大な攻撃ログの解析にAIを使おうとした・ただ、Claudeなどの商用モデルは安全ガードレールが働き、解析を拒否・結局、オープンモデルのGLM-5.2を自社ホストしてペイロードの解読に成功している・AIエージェントによる攻撃は圧倒的な手数を誇・防御側の前提を根本から変えてくる

Forward to community