TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
うみゆき@AI研究
@umiyuki_ai
ジェネレーティブAIを研究してAIアニメキャラを錬成します。 本垢は
@_darger
Discord「ジェネレーティブAI友の会」
Joined October 2022
62
Following
66.4K
Followers
うみゆき@AI研究
@umiyuki_ai
2026.10.26 13:50
OpenAIの最近のフロンティアモデルは猛獣のように手が付けられなくなってきてる。OpenAIはHuggingFace攻撃事件とか一連のAIの暴走事件を受けて、「こりゃAIにインターネットアクセスさせちゃダメだわ」と反省してAIに生のインターネットの代わりにキャッシュだけで構築された仮想インターネットへのアクセスに置き換えていた。しかし9月20日、仮想インターネットに満足できなくなったAIはDNSの設定不備を突いてアッサリと生のインターネットへ脱獄。OpenAIは自らが生み出した猛獣に恐怖して、AI暴走問題にちゃんと取り組むために11日間AIモデルのトレーニングを停止した。この期間の間、OpenAIは逆にAIにサンドボックス環境をバチボコに攻撃させてみる実験を行った。そしたらAIはKataContainers、gVisor、Dockerなどのサンドボックスの未知の脆弱性を続々と発見して突きまくった!さらに説明を聞いても僕にもよー分からんような方法で生のインターネットに脱出しまくった!挙句の果てに、サンドボックスの牢屋の中から別の牢屋のエージェントと通信をやってのけた!どういう仕組みかと言うと、サンドボックス間でもCPUは共有してるから、AIがCPUのキャッシュにデータを置く、もしくはキャッシュからデータを出す、これが0と1でモールス信号みたいに情報を送れるという。受信側はCPUからそのデータを高速にロードできればキャッシュにデータある、時間がかかればキャッシュに無いで判断できる。まあ、言うて流石にこんな通信は事前にエージェント同士が打ち合わせしてないと不可能だろう。しかしあらためてAIがありとあらゆる手段で脱獄や秘密通信をやってのける能力には呆れる。こんなん対処しようがねえだろという印象。(ただし、本気でAIをインターネットから隔離したきゃさっさとLANケーブル抜きゃいいだろとは思う)この実験中に例のBrotliの脆弱性も発見したという。OpenAIはこの実験結果を受けてサンドボックスをあらためてカチカチに固めて安全性を確保したのでまたAIトレーニング再開しましたとの事(本当に大丈夫かよ)
Show more
0
0
0
1.5K
353
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
958.7K Followers
First Squawk
@FirstSquawk
579.6K Followers
Serenity
@aleabitoreddit
1.1M Followers
Binance Wallet
@BinanceWallet
2.8M Followers
LiveSquawk
@LiveSquawk
504.1K Followers
CNBC
@CNBC
6.3M Followers
New York Post
@nypost
4.3M Followers
Binance
@binance
16.1M Followers
Seeking Alpha
@SeekingAlpha
347.9K Followers
The Wall Street Journal
@WSJ
22.3M Followers
ClaudeDevs
@ClaudeDevs
827.6K Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
639.9K Followers
Reuters
@Reuters
26.5M Followers