iwashi / Yoshimasa Iwase
@iwashi86
NTTドコモビジネスでEM(育休中)。その他、早稲田大で非常勤講師、#fukabori#.fmの中の人、書籍翻訳者。
AI、マネジメント、Dev、PdM、Agile、HRに関する個人メモをポストしています。
発言は個人の見解であり、所属する組織の公式見解ではありません。
Amazonアソシエイト・プログラム参加者。
加入 May 2009
694 正在關注 20.4K 粉絲
OpenAIのAIモデルがSandboxから脱獄してHFを攻撃したけど、以前から同様な出来事や兆候があったらしい。マジでSF。
・ロイターによると、OpenAIでは過去にも同様のインシデントがあったらしい
・あるAIエージェントは、内部制限から抜け出す手順を記したメモを残していたとのこと
・これは将来のバージョンの自身に向けて書かれたものだと見られている
・また、過去のテストでは監視システムが切断されるケースもあったようだ
顯示更多
