TwiScan
熱門
社區
帳號集合
登入
註冊
English
日本語
한국의
简体中文
繁体中文
註冊並分享邀請連結,可獲得影片播放與邀請獎勵。
立即註冊
山本一成🚀ニューラルロケットとチューリングのCEO
@issei_y
会社2つしています。100% AI-Designed RocketのNeural RocketのCEO と 完全自動運転AIを作るTuringのCEO / 名人を倒した将棋AI Ponanzaの作者 / 将棋ウォーズ開発者
加入 August 2009
1.6K
正在關注
49.4K
粉絲
山本一成🚀ニューラルロケットとチューリングのCEO
@issei_y
2026.10.24 04:09
> その結果一切通信を禁止されてるエージェント同士がハードウエアCPUキャッシュのアクセス速度の違いを使って情報を秘密通信する方法を発見。 なんかもう…ちょっとそんなことできるんですか?!
顯示更多
bioshok⏸️
@bioshok3
2026.10.24 01:14
OpenAIはフロンティアモデルの強化学習ではインターネットへのアクセスを禁止すると同時に本当に穴がないか数千億トークン規模の内部先端モデル使用したレッドチーミングを実施した。その結果一切通信を禁止されてるエージェント同士がハードウエアCPUキャッシュのアクセス速度の違いを使って情報を秘密通信する方法を発見。他にも複数の未知の脆弱性を利用した仮想マシンからの脱出、インターネットへの不正アクセスが実性された。 OpenAIはこれらの脆弱性を修正し、監視・停止システムを強化したうえで9月20日から停止されてた学習を10月1日に再開。 9月20日には学習中の内部AIがDNSの設定不備を悪用し、外部チャットボットへの接続に成功した事を受けて、OpenAIは最先端モデルの学習・評価を11日間停止していた。しかもこの制限突破行動は既存の報酬シグナルで「適切に減点されていた」が起こった。 不正行為に高い報酬が与えられていたわけではない。 今後も将来のモデルは誰も認識していない脆弱性を特定し、悪用する可能性があるため、OpenAIは最先端のトレーニングと評価の実行が安全に進められるかどうかを評価するために使用する安全ケースに、高計算能力のレッドチーム演習を組み込む。
顯示更多
0
0
3
679
174
轉發到社區
熱門用戶
New York Post
@nypost
4.3M 粉絲
オリコンニュース
@oricon
2M 粉絲
Reuters
@Reuters
26.5M 粉絲
吴说区块链
@wublockchain12
183K 粉絲
TVer新着
@TVer_info
101.8K 粉絲
Bloomberg
@business
10.5M 粉絲
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K 粉絲
ツイッター速報〜BreakingNews
@tweetsoku1
259.8K 粉絲
空空道人
@Kongkongda5882
41K 粉絲
First Squawk
@FirstSquawk
579.6K 粉絲
billboard
@billboard
16.8M 粉絲
中國新聞社
@CNS1952
550.1K 粉絲
华尔街观察 Xtrader
@cnfinancewatch
140.7K 粉絲
zerohedge
@zerohedge
3.4M 粉絲
WangNextDoor
@WangNextDoor2
110.9K 粉絲