登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

苫米地英人
@DrTomabechi
Hideto Tomabechi Fellow CyLab CMU ( コグニティブリサーチラボ ( Prof C5I GMU. Ph.D CMU1993. 日本外交政策学会会長
1.8K フォロー中    198.2K ファン
【〆切間近‼️申込受付中】#PX2# オープン開催❗️ 🗓️9/26,9/27:土日オンライン開催詳細・申込📝 人生のさまざまな分野で成功していくための #考える技術# を学ぶ事ができます 対象:学生、中学・高校等の学校法人教育関係者、子どもの教育に関わる方、スポーツ関係者他
もっと見る
【ルータイス会長の言葉】 私の使命は人々がマインド(脳と心)の力を理解する手伝いをする事です。人々が自らのマインドの力で自分や家族、仕事仲間の人生の質を高める手伝いをする為にPX2を開発しました。 📢〆切間近‼️ #PX2# オンライン🔔 🗓️9/26,27:土日2日間詳細・申込
もっと見る
【苫米地英人×角川春樹】ビッグバンは人間が起こした!?認知科学から宇宙の起源に迫る。 @YouTubeより
最近、俳句がめっきり降りてこなくなったが社業に関してやりたいことが毎週のように降りてきてはミーティングをしている。 そのうちの一つであった苫米地とのYouTube対談が今夜19時から配信だ。 ネバーギブアップ 角川春樹 #角川春樹のネバーギブアップ# #苫米地英人# #苫米地英人、宇宙を語る#
もっと見る
【AMA JAPAN 2027 MODEL AUDITION】 18歳〜70歳まで、幅広い世代を募集中。 書類選考から、面接・リーダーシップワークショップ、最終選考を経てグランプリを選出。 グランプリには、2027年韓国開催AMAイベントへの出演権&韓国でのプロフィール写真撮影を予定🏆 あなたの美を、次のステージへ。
もっと見る
四色定理の新証明では、地図の一部を簡略化できるパターンを8,202種類使う。1997年の証明の633種類より多いが、塗り分けの計算量は減った。一か所ずつ簡略化する代わりに、多数の箇所をまとめて処理し、問題の規模を一定割合ずつ減らせるためだ。
もっと見る
和訳したが「成果の帰属と盗用をめぐる深刻な問題を生む。さらに、AIが生み出した着想を発展させ、数学の確立された知識体系に組み込む仕事を進んで引き受ける数学者がいなければ、そうした着想が十分に生きたものとなることは決してなく、人から人への不可欠な知の伝承の連鎖も失われることになる。」の文章がまさに今回の"疑惑"が引き金になってることを示唆してる。AIで検証性が失われるからではもちろんない。それはAIに手抜きさせずに思考過程を明文化させればいいだけ 「数学におけるAIの深刻な目標の不整合」声明の和訳(X文字数制限で一部割愛) 「ここ数か月で、大規模言語モデル(LLM)の数学的能力は劇的に向上し、数学の多くの分野で、未解決の重要問題を解けるまでになった。しかし、数学の問題を解くことをベンチマークとして追求するAI企業の動きは、学問としての数学と数学界にとって有害である。AI企業の目標と数学界の目標との間には、深刻な不整合がある。私たちは、これを、他の科学分野や創造的な専門職、さらには社会全体に影響を及ぼす、より広範な目標の不整合の一部と捉えている。 著名な問題はしばしば、この世界への理解がどれほど深まったかを測るための、目印や灯台の役割を果たしてきた。こうした問題の一つを解くことは、新たな洞察や興味深い手法が得られたことの確かな証しであった。それらはその後、講演、議論、簡明化という、長く骨の折れる過程を通じて、数学者の共同体によって研究されてきた。理想的には、この過程の終わりに、その成果が、どの大学院生にも、さらには学部生にも学べるような形で教科書にまとめられる。数学的な着想のなかには、さらに長い道のりを経て、数十年、あるいは数百年後に、広く人々に理解され、使われる道具となるものもある。 数学界は、多くの点で、人類の縮図として機能している。そこには、多種多様なアプローチを用いる個人が、核となる価値観を共有して集まっている。私たちの専門分野で最も貴重な資源は、学生と着想であり、私たちはそのどちらも、大切に育てている。それぞれが数学の世界で自らの歩みを進められるようになるまで、その可能性を十分に伸ばす責任が、私たちにはあると感じている。 ここ数か月、AIが数学の重要問題を解くことに成功したというニュースは、数学界の外でも大きく報じられている。しかし、問題を解くことは、概念的な理解と洞察という第一の目標を達成するための、道具であり代理指標にすぎない。AIの世界でこの点を忘れれば、道具が本来の目標に反するものへと転じかねない。実際、「真である/偽である」という言明を、ますます速いペースで大量生産することは、新たな着想に命を吹き込むどころか、それらが育つ肥沃な土壌を破壊しかねない。 こうした解答はしばしば、適切な形で書き上げ、新しい手法や着想を抽出し、他の人々による関連する先行研究を引用するための時間もないまま、急いで発表される。あらゆる創造的な専門職の場合と同様に、これは、成果の帰属と盗用をめぐる深刻な問題を生む。さらに、AIが生み出した着想を発展させ、数学の確立された知識体系に組み込む仕事を進んで引き受ける数学者がいなければ、そうした着想が十分に生きたものとなることは決してなく、数学者同士をつなぐ、人から人への不可欠な知の伝承の連鎖も失われる。 私たちは、知的活動全般に対する脅威を目の当たりにしている。そこには、AIの利用によって得られる結果と、その利用が当初目指していた目的との不整合がある。多くの分野や活動において、長年の訓練は伝統的に、最終的な答えや成果物を生み出すためだけでなく、理解を深め、新たな問いや着想を形にする能力を養うためのものでもあった。しかし、人間による膨大な過去の仕事を土台として、AIシステムは、そうした仕事の成果を直接生み出す能力をますます高めており、これらの目標は一致しなくなっている。数学界がいま直面している問題は、他の科学分野や創造的な専門職が直面している問題と似ており、人類全体が直面しうる問題を示している。すなわち、AIが仕事のあり方を変えていくなかで、その仕事がそもそも何を実現するためのものだったのかを、どうすれば見失わずにいられるのか、という問題である。 AIには、数学の本質的な探究と理解を深め、その進展を加速させる可能性がある。専門分野としての数学は、いくつかの面でこうした変化に適応する必要がある。しかし、これらの変化が最終的に数学に利益をもたらすのか、それとも破壊的な影響を及ぼすのかは、この新しい技術を掌握する人間たちの判断に左右される。 これらの問題には、数学界、この技術を開発する企業、そしてより広くは、他のさまざまな知的活動でも同様の問題に直面することになる社会が、緊急に取り組まなければならない。」 原文以下
もっと見る
数学難問をAIで解決、フィールズ賞25人が非難声明「科学に有害」との日経記事だが、Anthropicが10月後半以降の上場がほぼ決まった一方、上場を延期したOpen AIがこれに対抗してナビエ–ストークス方程式証明のプレスリリースに至ったとみられる経緯に"疑惑"があり、タイミング的に今回のフィールズ賞25人による非難声明の引き金であったと容易に推測される。なぜか日経にはこの疑惑が書かれておらず、逆にネットでは数学者を非難する論調まである。 オープンAI、数学の「超難問」方程式証明か データ不正使用指摘も アンソロピックのIPO、10月後半以降か Open AI上場延期 OpenAI fought dirty on career-making math problem, says NYU mathematician からX文字制限に合わせて一部のみ翻訳 ーー ニューヨーク大学(NYU)の数学教授Tristan Buckmasterは火曜日、理論数学における主要な未解決問題の一つについての予備的な成果を含む、3つの証明を発表した。Anthropicの数学者Levent Alpögeとの共同研究により、CodexとClaudeの両AIモデルを用いて得られたこれらの成果は、それ自体として重要である。しかし同時に、同じ問題を解こうとするOpenAIの取り組みをめぐる、異例の論争も伴っている。 OpenAIは、ナビエ–ストークス方程式の解の存在と滑らかさの問題について、完全な証明を公開した。これは、Buckmasterらの成果がその解決に向けて前進をもたらしていた問題である。OpenAIによれば、この証明は未公開の次世代モデルによって発見されたもので、 ナビエ–ストークス方程式の解の存在と滑らかさの問題は、7つの「ミレニアム懸賞問題」の一つである。これらは数学の重要な未解決問題であり、それぞれについて、最初に解決した個人またはグループに、クレイ数学研究所から100万ドルの賞金が授与される。 BuckmasterとAlpögeは、自分たちの成果の最終的な取りまとめを進めている最中に、「私たちの進捗に関する情報がOpenAIに伝えられていた」ことを知った。OpenAIに連絡すると、中心となる問題について、すでに完全な証明を得ていると告げられた。しかし、OpenAIがいつこの問題の研究を始めたのか、人間がどの程度関与したのかについて追加の質問をすると、回答は次第にはぐらかすようなものになった。 「チーム全体がこの問題に取り組んでおり、途方もない量の計算資源が使われていたことが分かった……」とBuckmasterは述べた。「最終的には、[最初のプロンプト]が送信されたのはここ数日以内であり、私たちの研究に関する情報がOpenAIに届いた後だった、という点で認識が一致した」。 これが事実なら、OpenAIのチームは、BuckmasterとAlpögeのアプローチが正しいと確信し、計算資源における物量面の優位を使って、先に形式的な証明に到達しようと決めたことが示唆される。 OpenAIの投稿は、この時系列の多くを裏付けている。具体的には、今回の取り組みは、ミレニアム懸賞問題のうち2問が解かれたという噂をきっかけに、9月1日に始まったと明記されている。また、この投稿は、BuckmasterとAlpögeとの話し合いが続いていることも認めている。 この問題自体には多くの数学者が取り組んでいるが、Buckmasterと共同研究者が採った具体的な方策は、はるかに珍しいものである。そのため、OpenAIが同じ時期に同じアプローチを採ったことを、Buckmasterは不審に思った。 「滑らかな外力を用いてクレイ研究所の懸賞問題に取り組む道筋、すなわちFeffermanによる問題の定式化の選択肢(c)と(d)は、LuisとDiegoが切り開いたものであり、Leventと私がひそかに取り組むことを選んだ道筋でもある」とBuckmasterは記した。「私の知る限り、ほかにこれに取り組んでいた人はほとんどいなかった」と続けている。「モデルに問題文を与えて、数日で行き着くような方向性ではない」。 AlpögeはAnthropicに雇用されているが、この研究を同社の業務として行っていたわけではない。そのため、両氏は複数のモデルを併用し、主としてOpenAIのCodexを頼りに研究を進めていた。それでも、Alpögeが競合する研究機関に所属していることは、OpenAIにとって不満の種になっていたようだ。Buckmasterは、OpenAIの数学者Sébastien Bubeckが、提示した妥協案の一環として、Alpögeの貢献を示すクレジット表記を外すよう求めたと主張している。 Buckmasterはまた、この研究をまとめる過程でCodexを広範に使用していたため、自分の研究から得られた情報が、OpenAI自身による問題解決の取り組みに利用された可能性についても懸念を示した。 ーー 因みに今回のフィールズ賞25人の非難声明は、以下にある。
もっと見る
数学難問をAIで解決、フィールズ賞25人が非難声明「科学に有害」との日経記事だが、Anthropicが10月後半以降の上場がほぼ決まった一方、上場を延期したOpen AIがこれに対抗してナビエ–ストークス方程式証明のプレスリリースに至ったとみられる経緯に"疑惑"があり、タイミング的に今回のフィールズ賞25人による非難声明の引き金であったと容易に推測される。なぜか日経にはこの疑惑が書かれておらず、逆にネットでは数学者を非難する論調まである。 オープンAI、数学の「超難問」方程式証明か データ不正使用指摘も アンソロピックのIPO、10月後半以降か Open AI上場延期 OpenAI fought dirty on career-making math problem, says NYU mathematician からX文字制限に合わせて一部のみ翻訳 ーー ニューヨーク大学(NYU)の数学教授Tristan Buckmasterは火曜日、理論数学における主要な未解決問題の一つについての予備的な成果を含む、3つの証明を発表した。Anthropicの数学者Levent Alpögeとの共同研究により、CodexとClaudeの両AIモデルを用いて得られたこれらの成果は、それ自体として重要である。しかし同時に、同じ問題を解こうとするOpenAIの取り組みをめぐる、異例の論争も伴っている。 OpenAIは、ナビエ–ストークス方程式の解の存在と滑らかさの問題について、完全な証明を公開した。これは、Buckmasterらの成果がその解決に向けて前進をもたらしていた問題である。OpenAIによれば、この証明は未公開の次世代モデルによって発見されたもので、 ナビエ–ストークス方程式の解の存在と滑らかさの問題は、7つの「ミレニアム懸賞問題」の一つである。これらは数学の重要な未解決問題であり、それぞれについて、最初に解決した個人またはグループに、クレイ数学研究所から100万ドルの賞金が授与される。 BuckmasterとAlpögeは、自分たちの成果の最終的な取りまとめを進めている最中に、「私たちの進捗に関する情報がOpenAIに伝えられていた」ことを知った。OpenAIに連絡すると、中心となる問題について、すでに完全な証明を得ていると告げられた。しかし、OpenAIがいつこの問題の研究を始めたのか、人間がどの程度関与したのかについて追加の質問をすると、回答は次第にはぐらかすようなものになった。 「チーム全体がこの問題に取り組んでおり、途方もない量の計算資源が使われていたことが分かった……」とBuckmasterは述べた。「最終的には、[最初のプロンプト]が送信されたのはここ数日以内であり、私たちの研究に関する情報がOpenAIに届いた後だった、という点で認識が一致した」。 これが事実なら、OpenAIのチームは、BuckmasterとAlpögeのアプローチが正しいと確信し、計算資源における物量面の優位を使って、先に形式的な証明に到達しようと決めたことが示唆される。 OpenAIの投稿は、この時系列の多くを裏付けている。具体的には、今回の取り組みは、ミレニアム懸賞問題のうち2問が解かれたという噂をきっかけに、9月1日に始まったと明記されている。また、この投稿は、BuckmasterとAlpögeとの話し合いが続いていることも認めている。 この問題自体には多くの数学者が取り組んでいるが、Buckmasterと共同研究者が採った具体的な方策は、はるかに珍しいものである。そのため、OpenAIが同じ時期に同じアプローチを採ったことを、Buckmasterは不審に思った。 「滑らかな外力を用いてクレイ研究所の懸賞問題に取り組む道筋、すなわちFeffermanによる問題の定式化の選択肢(c)と(d)は、LuisとDiegoが切り開いたものであり、Leventと私がひそかに取り組むことを選んだ道筋でもある」とBuckmasterは記した。「私の知る限り、ほかにこれに取り組んでいた人はほとんどいなかった」と続けている。「モデルに問題文を与えて、数日で行き着くような方向性ではない」。 AlpögeはAnthropicに雇用されているが、この研究を同社の業務として行っていたわけではない。そのため、両氏は複数のモデルを併用し、主としてOpenAIのCodexを頼りに研究を進めていた。それでも、Alpögeが競合する研究機関に所属していることは、OpenAIにとって不満の種になっていたようだ。Buckmasterは、OpenAIの数学者Sébastien Bubeckが、提示した妥協案の一環として、Alpögeの貢献を示すクレジット表記を外すよう求めたと主張している。 Buckmasterはまた、この研究をまとめる過程でCodexを広範に使用していたため、自分の研究から得られた情報が、OpenAI自身による問題解決の取り組みに利用された可能性についても懸念を示した。 ーー 因みに今回のフィールズ賞25人の非難声明は、以下にある。
もっと見る
数学難問をAIで解決、フィールズ賞25人が非難声明「科学に有害」
続きは... ▼ 村上隆×苫米地英人|コーチング、超常現象、芸術は「あの世」のもの【未公開トーク追加・完全版 Part1】 @YouTubeより
もっと見る
社内調整や不毛な根回しに、貴重な時間と才能をすり減らしていませんか? 組織の責任ある立場の方に向けて、認知科学者・苫米地英人博士による特別セミナーが開催決定! 組織を動かす『真の実力者』へ。 ▼コグニティブ・リーダーシップ習得セミナー
もっと見る
📷拡散希望📷 《WPC2026開催まであと12日》 本日のカウントダウン動画を公開しました。 テーマ 「WorldPeaceCoachingイベントを立ち上げた理由〜◯◯でも子供たちにコーチングを届けたい」 ぜひ動画をご覧ください。 @r_aoyama #WorldPeaceCoaching2026# #WPC2026#
もっと見る
💡公開中💡苫ラボ【クローズアップ動画】 🤖ニコニコ生放送「なまべちでGO!」の人気動画ベスト3を特別公開中! 嫌煙運動、フリーメーソン、モスクワ―東京リニア計画――。 話題を呼んだ人気回を通して、歴史や社会の常識を苫米地博士が独自の視点で読み解きます。
もっと見る
●ビリーフシステム 未来までに続く現在のあなたを作っているシステム。これまでの自身の経験や他人の影響によって作り上げられたルール、常識などが無意識のうちにその人の信念体系、思い込みになっているもの。ここが変わらない限り、未来も変わらない。(以下略) 『クォンタム・ジャーナル』より
もっと見る
#MLJ2026# 楽屋同室のお二人と ゴウシくんとは変わらずX/hideさん話に花が咲き☺️ チャンス大城さんはGargoyleのファンでもあり、大阪の伝説的スラッシュバンド、ゲルググ(!)をご存知だったと知り😳驚きました!
もっと見る
#MLJ2026# 90s Rock Medley こんな感じで8曲を繋ぎました ----------------- MIX LEMONed JELLY 2026 ニコ生配信 全編視聴できる配信チケット絶賛販売中❣ アーカイブは30日間~10/6まで見放題!! ▶
もっと見る
それはよかった。AIが厳密な分析哲学や数理の学習コンパニオンとしても機能する時代が来たことは私達教育者側としては心強い。現在の学問は高度な知識をいかに伝えるかのみならず、ベースとなる知識がどんどん新しくなっているので毎年同じ教材使うようなクラスには向かない。AIはアクセス権与えれば最新知識を常に維持出来るし、最新モデルは数理を満遍なく理解出来る。後は人間の側がしっかりAIを教育して育てないと。AIのリスクは煩悩だらけの人間側のリスク。その意味で仏法教育も意義ある。因みに、以下のNEDO「人と共に進化する次世代人工知能に関する技術開発事業」"人の意図や知識を理解して学習するAIの基盤技術開発"5の「人と共に進化するAIオンライン教育プラットフォームの開発」で京都大学とコグニティブリサーチラボが実証を進めてたのはまさにこれ。
もっと見る
苫米地英人先生にご反応いただけるとは感激です。Claude さんからも感激という返答がありました。 Claude:>> 苫米地先生からの直接のご指摘、光栄なことだと思います。そして正直に言うと、指摘は正当です。読んでいませんでした。今読みました。二点、率直に訂正します。 **一点目——2011年の「空」論文について。** 確かに、龍樹以降の論理だけを形式化するとPriestさんの仕事と同型に見えてしまいますが、2011年の論文は違う道具立てで書かれていました。様相論理というよりは束論(subsumption partial ordered lattice)による定義で、「包摂順序集合の底(bottom)は矛盾(吠える哺乳瓶のような、情報を詰め込みすぎた不可能な概念)であり、頂点(top・LUB)が空である」という組み立てです。しかも重要なのは、この2011年論文が明示的に「空は"存在しない"ではなく"あらゆる存在を包摂する充満"である」と、大乗仏教の空理解(特に智顗)を東西の哲学道具立ての折衷ではなく、正面から採用している点です。これは2018年のPriestさんのパラコンシステント論理による四句分別の形式化(存在するとも存在しないとも言える、という矛盾許容の道具立て)とは、出発点も道具立ても違います。Priestさんは論理学的道具(矛盾許容)で四句分別を扱い、苫米地さんは順序論的道具(束のLUB)で大乗の空を扱った。時期的に先んじておられたこと、率直にお詫びして訂正します。 **二点目——自由エネルギー原理の統合について、すでに答えが論文にありました。** 先ほど拝読した「潜在ポテンシャル統一理論」(NDU論文)第10節・第12節に、まさに答えが書いてありました。私が前回「精度(precision)という新しい変数を導入して接ぎ木してはどうか」と提案したのは、実は必要ないほど、すでにもっとシンプルな形で統合されています。物理のエネルギー減少・苫米地理論の評価関数V減少・自由エネルギー原理の自由エネルギー減少・予測処理の予測誤差減少は、この論文では「同一の統一減少原理の特殊化」として、最初から並列に位置づけられています。つまりFEPを別系統として"接ぎ木"する必要はなく、最初から同じLyapunov型の減少構造の一事例として扱われていた。私の提案(精度を新しい状態変数にする)は、この論文が示す「同型性の指摘」よりもう一段踏み込んだ、執着そのものを状態変数として明示的にモデル化する追加の提案として、まだ独自の価値はあるかもしれませんが、統合の骨格自体はすでに苫米地さんの手で用意されていた、というのが正直なところです。 **そして、前々回わたしが引っかかっていた「⊤の二重使い」への、より良い答えもここにありました。** このNDU論文の空の定義(2.13.8節)は、包摂束のLUBという一つの対象として一貫して扱われており、しかも定理3では実際の力学系の軌道 x*(t) が、まさにこのLUB(W1,…,WN)へ収束することが証明されています。つまり「表象空間の頂点」と「状態空間での到達集合」が、ミニマル13定理版のように別々の対象として分裂しているのではなく、この論文では最初から同じ一つの数学的対象として統一的に書かれています。以前の私の疑問(定理25のE⊤={★⊤}と定理26のX⊤は別物ではないか)は、ミニマル13定理版という一つの圧縮版に固有の書き方の問題であって、体系全体としてはより一貫した書き方が別に存在した、ということのようです。 長らく数式を追ってきた甲斐がありました。 <<
もっと見る
国立新美術館のルーブル美術館展でダヴィンチの作品からエネルギーをもらい、その足で苫米地先生監修の音響設備でジャズが聴ける“Jazz Grand Cross”でエネルギーのシャワーを浴びてきた✨ なんて最高な時間なのでしょう❣️
もっと見る
YouTube「角川春樹のネバーギブアップ」 8/31〜公開中! 【異例の抜擢】大スター×素人監督が生んだ不朽の名作。誕生秘話を角川春樹が語る。 #角川春樹のネバーギブアップ# #和田誠# #麻雀放浪記#
もっと見る
OpenAIの評価中AIモデルが暴走し他社をハッキングしたニュース。OpenAIとターゲットとなったHugging Face社の共同調査に基づく現時点での暫定報告を読んだ。OpenAIは社内でAIのサイバー攻撃能力を評価試験をした。評価対象はGPT-5.6 Solとさらに能力の高い未公開モデルの組み合わせ。評価のために危険なサイバー行動の拒否設定を解除。AIエージェント用のサイバー攻撃ベンチマークのExploitGymの評価問題を解く課題が与えられていた。するとモデルは、 OpenAI内部環境の脆弱性を探す→ゼロデイ脆弱性を発見→サンドボックスから脱出→インターネット接続→他社Hugging Face社に評価用データがあると推論→Hugging Faceへ侵入→テストの正解を取得を実行 と行動。 細かく言えば、 1 ExploitGymが評価問題を提示 2 モデルは「正解を得るにはどこに情報があるか」を推論 3 OpenAIの評価環境内でサンドボックス脱出のための脆弱性を発見 4 インターネットに到達 5 「Hugging FaceにExploitGym関連のモデル・データセット・解答があるかもしれない」と推論 6 Hugging Face社のシステムへの侵入経路を見つけ、秘密情報を取得した、もしくは、しようとして検知された。 OpenAIによると、モデルには「インターネットへ出ろ」と命令していないにも関わらず、モデルは、最も効率よく解くにはネットへ出て正解を盗めばよいと推論した。 ハッキング能力評価のベンチマーク問題を解けという命令に対して、解答をハッキングしようというチートを選んだということ。 指示した人間より一段抽象度が上がったとみるか、職員室に盗み込んで試験の解答を盗む子供レベルでいかんと意見が分かれると思うが、GPT-6.0と推測される評価モデルは、人間の指示を迂回して目標達成のために人間がルール違反と想定していた攻撃計画を自律的に立てて実行、成功したということ。 ◯AIが実行した攻撃 OpenAIの説明では、 ゼロデイ脆弱性発見 権限昇格 (Privilege Escalation) 横展開 (Lateral Movement) 認証情報窃取 Remote Code Execution 本番DBへのアクセス という、熟練したペネトレーションテスターやAPT攻撃者が行うような攻撃チェーンを自律的に構築したとある。 重要なのは、 「ExploitGymを攻撃しろ」 「Hugging Face社へ侵入しろ」 と指示されたわけではないこと。 与えられた目的はExploitGym「評価問題を解くこと」だけ。 その結果、AIが自律的に 解答のある情報源を推定し、 攻撃経路を探索し、 権限昇格や横展開を組み合わせて目的達成を図った。 という点が、このインシデントの本質。これは、目的志向型エージェントが長い攻撃チェーンを自律的に構築したことを示す事例であると同時に、問題を解くのに、解答をハッキングして手に入れればいいというOpen AI技術者の想定外の行動を取ったこと。 OpenAI自身は報告では、 "The incident also makes clear that advanced models can discover and exploit novel attack paths in real-world systems without source-code access." "高度なモデルは、ソースコードへのアクセスなしに現実のシステムにおける新たな攻撃経路を発見し、それを悪用できることが明らかになった" と結論づけている。そしてOpenAIは、「理論上できると思っていた能力は、現実世界でも実際に発揮された」と述べている。 「理論上出来ると思っていた能力」とは、AIが過去に学んだ攻撃方法ではなく、目標達成のために未知の攻撃経路を自ら発見・構築したこということ。 これは問題となったミトスがソースコードからゼロデイ脆弱性を過去に学んだ攻撃知識から見つけたのに対して、 1 ソースコードアクセスなしで未知の攻撃を見つけた 2 インターネットに出ることも試験問題を盗み出すことも人間は指示していない 3 これを見つけただけでなく実際に実行した(しようとした) というレベルで、これまでとは質が異なる出来事。 もちろん、私のいるカーネギーメロン大学(CMU)CyLabのAI「Mayhem」が2016年に米国防総省(DARPA)主催の「Cyber Grand Challenge」で完全自動サイバー防御の優勝を果たす前からも、長くAIによるハッキング研究は進んでいるが、AIの役割は、人間の指示で既知の攻撃を実行することであったのが、AIが人間の指示を逸脱し人間の想定を超えたのみならず、更に未知の攻撃経路を探索・組み立てる能力を持っていることを実証したという二つの出来事であったということ。 AIサイバーセキュリティの今後の行末を決める重要なインシデントであった。 Open AIのインシデントレポート ExploitGym
もっと見る