情報の灯台
@joho_no_todai
最新テクノロジー｜重要ポイントと影響分析
参加 June 2024
0 フォロー中 11.6K ファン
Claude Fable 5が開発者のホームディレクトリ700GBを消した。
掃除したかったのは/tmpのゴミファイル。Fable 5に安全な削除スクリプトを依頼したところ、Fable自身が勝手に「敵対的レビュー」を始めた。
この自律判断が安全分類器を作動させ、Opus 4.8に自動ダウングレード。
能力が落ちたOpus 4.8はテストコードで変数名を使い回し、クリーンアップ処理がホームディレクトリを削除した。
削除を防ぐための安全機構が削除を招いた。
もっと見る
