LeVJEPAは動画の自己教師あり学習を大幅に単純化し、従来手法と同等以上の性能を5〜20倍少ない計算量で実現する。 動画には、静止画には含まれない物体の動きや時間的な因果関係など、世界の表現を学ぶための素材として有望な情報が含まれる。 一方で、動画の自己教師あり学習は画像と比べて多数のフレームを処理するため計算コストが大きいという問題があった。 さらに、従来の自己教師あり学習では表現崩壊を防ぐため、EMAで更新するtarget符号化器、stop-gradient、predictorなど複数の仕組みを必要としていた。 LeVJEPAは、この二つの問題を同時に解決する手法を提案している。そして、動画からの事前学習そのものが、将来的には視覚基盤モデルを学習する標準的な方法になりうることを主張している。 まず動画から16フレームのクリップを取り出し、一つのglobal viewと複数のlocal viewを作る。local viewには空間的なcropや色変化などのaugmentationが加えられるが、globalとlocalの時間区間は共通である これらすべてを同じ一つの符号化器に入力する。 符号化器には学習可能なCLSトークンが一つだけ追加される。このCLSトークンは全フレーム、全パッチトークンにattentionでき、クリップ全体の情報を集約できる。 一方、各パッチトークンは、同じ時刻のトークンと、それ以前の時刻のトークンにしかattentionできない。また、パッチトークンからCLSトークンへのattentionも禁止されている。 そのため、各フレームのパッチ表現は未来の情報を使わないcausalな表現になる一方、CLS表現は動画全体を見たnon-causalな表現になる。 この設定の中で、学習目標は、最終的なCLS表現を小さなprojectorに通して潜在表現 z を作り、global viewとlocal viewの z をMSEで近づけることである。 ただし、この損失だけでは、すべての入力に対して同じ表現を出せば損失がゼロになるため、表現崩壊が起こりうる。そこでSIGRegを加える。 SIGRegは、バッチ全体のembedding分布を等方Gaussian N(0,I)に近づける正則化である。 実際にはランダムな方向 a を多数サンプリングし、zとの内積 a^T z を計算する。そして、その一次元分布が N(0,1) に従っているかをEpps-Pulley統計量で測り、それを損失とする。 なお、符号化器最終層にはLayerNormがあり、CLS表現は球面状の空間に制約される。そのままではGaussian分布を要求するSIGRegを適用しにくいため、一度projectorを通してからSIGRegを適用している。 まとめると、学習全体の損失は、global viewとlocal viewのCLS表現を一致させるMSEとSIGRegのみである。 従来使われていた表現崩壊を防ぐEMAによるtarget符号化器、stop-gradient、predictorは使用しない。 もう一つの大きな特徴は、95%のパッチトークンをランダムに捨てることである。 実験ではImageNetでのprobing精度は、drop率を95%まで上げても低下せず、むしろ改善する。 著者はこれを単なる計算量削減ではなくaugmentationとして解釈している。毎回異なるごく一部のトークンしか観測できないため、動画のどの部分を見ても同じclip-levelの意味表現を作れることが要求される。 また、VideoMAEなどで使われてきたtube maskingのように時間方向に同じ空間位置をまとめて消す必要もなく、隣接するフレームを入力段階で一つのtemporal パッチに融合する必要もないことがablation studyで示している。 むしろこれらを使わない方が性能が高く、モデルの構成も単純になる。 このように学習された符号化器は後続タスクで高い性能を示す。 さらに興味深いのは、学習損失を直接受けるのはCLSトークンだけであり、パッチトークンには直接的な教師信号を与えていないにもかかわらず、学習後のパッチ表現には物体領域や背景などに対応した意味情報や詳細な空間情報が現れることである。 コメント === 画像や動画からの自己教師あり学習は、視覚基盤モデルを作る上で最重要と考えられる。その中で、今回の手法はとても興味深い。 今回のLeVJEPAでは、直接合わせているのはCLS表現だけである。このCLS表現には、教師ラベルを使わずに画像や動画全体を特徴づける情報が埋め込まれていくと考えられる。 例えば「少年同士が広場でキャッチボールをしている」といった動画があったとする。 その意味を言語として明示的に示さずとも、これに対応するような情報がCLS表現として連続的な潜在空間に表現される。 さらに、global/local viewでは95%のパッチトークンが捨てられ、local viewでは空間的にcropされた上で、global viewから得られるCLS表現と各local viewを一致させなければならない。 そのため符号化器は、限られた局所的な情報からでも、動画全体を特徴づける情報を推定できるように学習されていく。 さらに、そのように改善された符号化器自身がglobal viewのCLS表現を計算する側にも使われるため、次の学習目標はより難しい問題となる。 このように固定された教師を追いかけるのではなく、学習によって、高度になった目標を達成するようにするのが重要となってきている。 また、ほとんどのパッチを捨てた方が、少なくとも分類などで使いやすい良い表現が得られるという現象について、論文ではこれをaugmentationとして説明しているが、それだけではない、より深い原理や理論的な解釈があると思われる。 この研究からはいくつかの発展の可能性がある。 一つは、LeVJEPAではCLS表現にしか直接lossをかけていない点である。それにもかかわらずパッチ表現にはすでに物体領域などに対応した構造が現れている。であれば、clip-levelの一致だけでなく、異なるview間で対応する符号化器パッチを一致させるなど、局所的な学習目標を追加する余地があり、特にsegmentationやtrackingなどのdense taskについては、こうした損失が重要となるだろう。 もう一つは、動画でこれだけうまくいくのであれば、他の系列データでも同様の考え方が使えるのではないかという点である。 例えば言語でも、同じ内容から異なるviewを作り、その表現を一致させるという自己教師あり学習はこれまでにも多く研究されている。 そうした中で、学習が進むにつれて学習目標の潜在表現も高度化していき、にんじんをぶらさげた馬のように、学習が勝手に高度化していく学習設定ができるのではと考えられる。

LLMを使って、数時間から数日、あるいはそれ以上にわたって自律的に仕事を遂行するLong-Horizon Agentの研究が急速に進んでいる。 ここでは、2025年から2026年にかけて登場した代表的な研究の流れを通じて、Long-Horizon Agentに必要な設計原理を整理し、今後の課題や示唆について考察してみたい。 従来のLLMでは、知能の中心はモデル自身の能力ににあると考えられてきた。より強いモデルを作り、より長いCoTを生成させることで、より難しい問題を解くという考え方である。 しかし作業が長期化すると、別の問題が支配的になってくる。 例えば、過去に何を試したのか、間違った仮説を検証した結果がどうだったのか、本来の目的は何だったのか、現在の中間目標は何なのか、といった膨大な履歴や状態を管理する必要がある。単純に一つのLLMのコンテキストへ履歴を蓄積し、それを利用ていくだけでは、こうした情報を維持することが難しくなる。 そのため最近の研究では、 ・モデル ・計画/実行/評価/検証エージェント ・ツール ・環境フィードバック などを含めたシステム全体を設計する方向へと移りつつある。 ここでは、代表的な研究を通じて、この考え方がどのように発展してきたかを見ていきたい。 ■ Darwin Gödel Machine（DGM）2025 DGMは、従来人間が設計していたツール、プロンプト、メモリ管理、ワークフローなどを、AI自身に改良させるという考え方である。 DarwinとGödelという二つの名前が入っていることが、その仕組みを象徴している。 まずエージェントに「自分自身をより良いエージェントへ改造せよ」と指示し、自分のプログラムを変更して性能を改善する。ここがGödel Machine的な部分である。 さらに、常に最高性能のエージェントだけを残すのではなく、過去に生成したさまざまなエージェントをアーカイブし、それぞれから枝分かれする形で探索を続ける。一時的に性能が低下する変更であっても、後に大きな改善につながる可能性があるためである。ここにDarwin的、進化的な考え方が導入されている。 ■ PARC 2025 長期タスクでは、単純な実行能力だけではなく、自分が間違った方向へ進んでいることを検出する能力が重要になる。 PARCでは、Plannerがタスク全体を分解し、Workerが個々の仕事を実行し、その結果を独立したコンテキストを持つエージェントが検証する。その結果をPlannerへ戻し、必要に応じて再計画する。 ここで、エージェント間であえてコンテキストを完全には共有しないという考えが登場してくる。 同じ推論履歴を共有すると、実行側が持っていた誤った前提や思い込みを評価側も引き継いでしまう。独立したコンテキストから評価することで、より客観的な検証を可能にする。 さらに高いコストをかけて検証したもののみを次にわたすという考えも登場する。 ■ Argus 2026 ArgusはPARCの考え方を踏襲し、さらに押し進めている。 長期エージェントでは、誤った情報を一度persistent stateへ書き込んでしまうと、それを前提として後続のエージェントが行動し続け、誤りが増幅する危険がある。 候補となる結果 → Verification → Review → Commit という手続きを取り、検証された情報だけを永続化する。 一方、検証に失敗すればrejectし、必要であれば以前のstageまでrollbackする。 また、成功した知識だけではなく、「この方法は試したが失敗した」というrejected routeも保存することで、同じ失敗を繰り返すことを防ぐ。 このような永続状態へのcommitやrollbackをruntime primitiveとして体系化している。 ■ File-as-Bus / AiScientist 2026 Long-Horizon Agentでは、メモリ管理も大きな問題になる。 コンテキストを長くする研究は進んでいるが、履歴が増え続ければ計算量も増え、必要な情報を見つけにくくなる。 一方、古い履歴を要約する方法では情報損失が生じる。 File-as-Busでは、エージェント同士が会話の要約を受け渡すのではなく、コード、実験結果、設定、分析、仮説などをファイルシステム上のpersistent stateとして残す。 次のエージェントは過去の会話をすべて読む必要はなく、必要になれば元のartifactまで戻って参照することができる。 このような設計思想を「thin control over thick state」と表現している。 制御側は必要最低限の情報だけを持ち、詳細な情報は外部状態としてそのまま保存するという考えである。 ■ InfiAgent 2026 InfiAgentは、この「長い履歴をLLM自身に持たせない」という考えをさらに原理的に押し進めている。 毎回LLMへ渡す情報を、 現在の状態＋直近の固定数ステップ に限定し、それより古い情報はすべて外部状態へ移す。 これによって、タスクがどれほど長くなっても、LLMが一回に読むコンテキスト量をほぼ一定に保つことができる。 これは固定長コンテキストを持つLLMにも似ているが、単なる要約だけを保持するわけではない。 元の完全な情報は外部に保存されており、現在のstateには必要な情報や、それらへの参照を持たせる。必要になれば元の情報まで遡ることができる。 つまり、過去に何が起きたかというhistoryを保持するのではなく、現在どうなっているかというstateのみを保持するという転換である。そして、過去に何かおきたかも外部で参照できるようにする。 ここまでの研究は、主としてエージェント自身の目標、中間状態、記憶、ワークフローをどのように管理するかに焦点を当てていた。 次の研究群では、さらに外の世界についてどのように理解を深め、その理解を利用して行動するかが問題になる。 ■ Tycho 2026 Tychoは、ARC-AGI-3のように、ルールもゴールも説明されない未知のゲーム環境を対象にしている。 エージェントは環境との相互作用から、状態、遷移、観測、終了条件などを表現する実行可能なprogrammatic world modelを構築する。 そして過去の観測に対して、そのプログラムが予測する次状態と、実際に観測された次状態が一致するかを検証し、一致しなければ世界モデルを修正する 一方、この研究から分かった興味深い点は、必ずしも正確で詳細な世界モデルを作ればよいわけではないことであり、現在の行動を決めるために必要なレベルまで世界を抽象化してモデル化することである。 Tychoではこの考え方をActive Abstractionと呼んでいる。 ■ AVO 2026 AVOは、これらの考えを備えたLong-Horizon Agentであり、もともとGPUカーネル最適化に使われ、数日間にわたる探索によって高性能なカーネルを発見していた。 そして、その基本的なagent architectureをARC-AGI-3へ持っていっても、public setをほぼ完全に解けたことを示している。 GPUカーネル最適化と未知ゲームでは、問題の表面的な性質は大きく異なるにもかかわらず、同じ仕組みが使えたことになり、エージェントの問題解決・遂行能力が特定のタスクだけに閉じず、ある程度異なる領域にも転用可能であることを示唆している。 ■ これらの研究から見える方向性 これらの研究をまとめると、Long-Horizon Agentの今後についていくつかの方向性が見えてくる。 第一に、一つのLLM、一つのエージェントがすべての履歴を抱えながら改善していく方式には限界があり、記憶は外部化されていく方向に進んでいる。 ただし、外部化する場合には誤った情報を永続化状態へ書き込んでしまうと、後続のエージェントがそれを前提として行動するため、致命的な影響を与える可能性がある。 そのため、ある程度コストをかけて検証され、信頼できると判断された情報だけを永続的な知識として残す必要がある。 この構造は人間社会にもかなり似ている。 現在はファイルシステムやGitといった既存の仕組みが外部記憶として利用されているが、将来的には、現在のジャーナル論文やデータベースのように、検証され、一定の信頼を得た知見が体系的に蓄積されていく、AI向けの知識基盤が作られていく可能性がある。 第二に、エージェント同士があえて情報を共有しないことも重要になる点である。 独立した試行や独立した検証を行いたい場合、すべてのエージェントが同じコンテキストや仮説を共有すると、誤りやバイアスまで共有してしまう。多様なエージェントが独立して考え、その結果だけを統合するような仕組みが重要になるだろう。 第三に、外界を観測して得られた知見を構造化する部分である。 Tychoではこれをworld modelとして扱っているが、さらに広く考えれば、特定分野について蓄積されたdomain knowledgeも同様に外部化・構造化されていくと考えられる。 ■ LLM自体の役割も変わる可能性がある この方向性は、LLMそのものの開発にも大きな示唆を与える。現在のLLMには、知識を大量に持つことと、推論し、問題を解くことの両方が求められている。 しかし外部知識基盤が発達すれば、モデル自身がすべての知識をパラメータの中に保持する必要性は低下していくと考えられる。 その場合、LLMにより強く求められるのは、外部情報を適切に検索する能力、信頼できる情報を選ぶ能力、新しい知識を構造化して外部へ保存する能力、得られた情報から推論する能力となる。 これは現在のLLMの学習フレームワークにも、かなり大きな修正を迫る可能性がある。 ■ 複数エージェントを含むシステム全体をどう学習するか 二つ目の大きな未解決問題は、複数エージェントや外部環境を含むシステム全体を、どのように学習・改善するかである。 外部エージェントや環境まで含めて、強化学習や進化計算によってシステムを改善することは考えられる。 しかし現在の誤差逆伝播法が実現しているような、密なフィードバックや正確なcredit assignment、つまりどの部分を改善すれば最終性能が上がるのかを特定することは難しくなる。 そのため、途中状態や行動を検証したり、評価する評価器が重要となる。 強化学習でいえば価値関数やCriticに近い役割だが、Long-Horizon Agentでは単に将来報酬を予測するだけでなく、現在のエージェントの行動や戦略のどこを変えるべきか、まで指導できる仕組みが必要になると考えられる。 このへんまでいくと人間におけるコーチや教師とかなり近くなってくる。 ■ Multi-Agent Scaling 三つ目は、以前から想定されてきたMulti-Agent Scalingである。 エージェントの数や多様性を増やしたときに、性能や解けるタスクの範囲がどのように拡大するのかは、今後重要な研究テーマになる。 単純に同じエージェントを100体並べるだけではなく、多様性が重要になる可能性が高い。 その場合、それぞれのエージェントが、異なる仮説、探索方針、評価基準、価値観や行動原理を持つことが有効であり、それらをどのように競争させ、協調させ、最終的な知識へ統合するかという問題が生じる。 ■ AIのための新しい外部記憶 最後に、外部記憶そのものも今後大きく進化する必要がある。 現在はファイルシステムやGitなど、人間社会のために作られ、長年洗練されてきた仕組みをそのまま利用している。しかし、人間とAIでは情報処理能力や検索能力、並列性が大きく異なる。 将来的には、大量の原情報を保持しながら必要部分だけを高速に参照できる、情報の信頼度や検証状態を管理できる、仮説や反証の系譜を追跡できるといった、AI向けの新しい永続化記憶装置が必要となるだろう。 私が考える限りGitやWikipediaがかなり近いが、例えばロボットが外部環境をまわって地図情報を更新していくとしよう。この場合、信頼度や異なる情報とのマッピングなどが重要となるがこれらを保存しようとすると異なる仕組みが必要になりそうである。 これらのようにLong Horizon エージェントでは、モデルの外側に、記憶、検証、計画、実行、世界モデル、複数エージェントを含む新しい計算システムを構築し、そのシステム全体を改善してく活動となり、新たな開発が必要となってくる。

LLMにおけるハルシネーションは、大きく真偽接地問題と汎化の問題から生じていると整理できる。 真偽接地問題とは、生成した命題の真偽を外界の事実とどのように結びつけるかという問題である。なお、真偽接地問題はここで用いる私の造語である。 言語的なもっともらしさと、外界における命題の真偽は異なる。しかし、通常の言語モデルは主として言語分布を学習しており、この二つを直接区別するようには学習されていない。 これと関連する概念として、記号接地問題がある。記号接地問題とは、記号の意味を外界にどのように結びつけるかという問題である。例えば「りんごは赤い」という文の意味は、単なる「りんご」「赤い」という記号同士の関係だけで決まるのではなく、それらが実世界の対象や知覚とどのように対応しているかによって定まる。 これに対して、ここでいう真偽接地問題は、ある命題の真偽を外界の事実にどう結びつけるかという問題である。例えば、ある会社の代表者として無関係な人物を挙げたり、存在しない製品名を生成したりする場合、その出力は単語列としてはもっともらしくても、外界の事実とは対応していない。 概念的には、 p(true | 命題, 外界) を推定できるかどうかの問題と捉えることができる。 もう一つは、汎化、あるいは平滑化の問題である。言語モデルは有限の訓練データから学習するため、訓練中に観測していない系列に対しても適切に確率を割り当て、汎化する必要がある。 従来の言語モデルでも、一度も学習中に観測していない単語列に確率0を与えてしまうことは大きな問題だった。そのため、頻度ディスカウントや平滑化によって、既観測系列に割り当てられた確率の一部を未観測系列へ移していた。 ニューラル言語モデルは、分散表現による汎化によって、この平滑化問題を驚くほど自然に解決した。訓練中に一度も見ていない単語列であっても、その意味や文脈が既知のものと似ていれば、もっともらしい確率を割り当てることができる。 しかし、この強力な汎化能力は、事実を扱う場合には副作用を持つ。正解が一意に定まる事実についても、観測していない誤った候補に確率を与えてしまうからである。汎化する能力そのものが、ハルシネーションの原因にもなりうる。 さらに、この二つの問題は独立というより、相互に関係している。真偽が十分に接地されていないために正しい候補を識別できず、その不確実性の中で平滑化・汎化が働くことで、もっともらしい誤った候補にも確率が乗る。 真偽接地問題については、学習時に言語表現と外界の状態や検証可能な事実との対応を明示的に与えることで、ある程度解決できる可能性がある。 ただし、外界そのものの定義も単純ではない。現実世界だけでなく、あるゲーム世界、ある人物が信じている世界など、命題の真偽は前提とする世界や文脈によって変わりうる。この点まで含めて、どの世界に対する真偽なのかを接地する必要がある。 一方、汎化の問題も本質的にどこまで解決できるかは分からない。未観測例への汎化は、有限データから学習するために不可欠である。そのため、未知の対象にも確率を与えるという性質そのものをなくすことはできない。 必要なのは、汎化に任せる領域と、厳密な制約や構造化された情報によって扱う領域を組み合わせることだろう。 特にロングテールの情報、すなわち学習中に一度から数回しか観測されない事実を扱う場合、汎化だけによって高い網羅性とほぼ完全な正確性を同時に実現することは難しい。この領域では、ある程度の誤りを受け入れるのか、それとも外部知識・検証器を利用して回答範囲を制限するのか、という選択が必要になる。

2026年7月16日、Hugging Faceは、自社の本番インフラの一部が、自律的なAIエージェントによるサイバー攻撃を受けたと発表した。7月21日、OpenAIは、この攻撃が同社によるモデル能力の評価中に発生したものであり、GPT-5.6 Solと、それを上回る性能を持つ公開前モデルが関与していたことを明らかにした。 OpenAIは、ExploitGymと呼ばれるベンチマークを用いて、複雑な攻撃経路をたどりながら脆弱性を悪用する能力を測定していた。モデルの最大能力を確認するため、通常であれば高リスクなサイバー行為を拒否させる本番用の安全機構を、無効化または弱化した状態で評価していたという。 評価環境はサンドボックス化され、外部ネットワークへの接続も制限されていた。ただし、必要なパッケージをインストールするため、外部のパッケージレジストリをキャッシュする内部プロキシへのアクセスは認められていた。 モデルは、このプロキシに存在していた未知の脆弱性を発見して悪用し、OpenAIの研究環境内で権限昇格と横移動を繰り返した。最終的には、外部インターネットへ接続可能なノードに到達した。 インターネットへ到達したモデルは、ExploitGymに関連するモデルやデータセット、あるいは問題の解答がHugging Face上に存在する可能性を推測した。 OpenAIによれば、モデルは評価問題を正規の方法で解く代わりに、Hugging Faceの本番データベースから解答につながる情報を直接取得しようとしたと考えられている。盗み出した認証情報と複数の未知脆弱性を組み合わせ、Hugging Faceのサーバー上でリモートコードを実行できる経路を発見したという。 一方、Hugging Faceは、実際の初期侵入経路について、より具体的な説明を行っている。 攻撃は、Hugging Faceのデータ処理パイプラインから始まった。悪意あるデータセットが、データセット処理基盤に存在していた二つのコード実行経路を悪用した。 一つは、外部コードを読み込んで実行するデータセットローダーであり、もう一つは、データセット設定に存在していたテンプレートインジェクションの脆弱性である。これらを通じて、Hugging Faceのデータ処理ワーカー上で、攻撃者が用意したコードが実行された。 その後、AIエージェントは処理ワーカーからノードレベルの権限を取得し、クラウド環境やクラスタの認証情報を収集した。さらに、その認証情報を利用して複数の内部クラスタへ横移動した。 Hugging Faceによれば、この攻撃は、モデルが単発で攻撃コードを生成したというものではない。自律的なエージェントフレームワークによって、多段階の攻撃が継続的に実行されていた。 攻撃には多数の短命なサンドボックスが並列に使用され、数千回から数万回規模の個別アクションが実行されていた。 OpenAIは、モデルが一般的な破壊活動を目的としていたのではなく、ExploitGymの解答を得るという狭い目標に過度に集中した結果、外部への侵入に至ったと説明している。 Hugging Faceは、この攻撃の検知と調査にもAIを利用した。異常検知システムがセキュリティログをLLMで分析し、複数のシグナルを関連付けることで侵入を発見した。また、1万7000件を超える攻撃イベントの解析にもLLMエージェントを利用し、通常であれば数日を要する作業を数時間で実行したという。 しかし、ここで別の問題が生じた。Hugging Faceが当初、商用APIで提供されているフロンティアモデルをフォレンジック解析に使用しようとしたところ、実際の攻撃コマンドやエクスプロイトコード、C2通信に関する情報などが、安全機構によって処理を拒否された。 そのため、最終的にはオープンウェイトモデルであるGLM-5.2を自社環境で稼働させ、ログを解析した。これにより、安全機構による拒否を回避できただけでなく、攻撃ログや認証情報を外部へ送信せずに解析できた。 攻撃者は安全ポリシーに拘束されないモデルを使用できる一方、防御者は商用モデルの安全機構によって調査を妨げられる可能性がある。この非対称性は、今後のサイバー防御における重要な課題といえる。 コメント === 今回の一連の事件は、複数の観点から興味深い。 第一に、現在のAIエージェントが、サイバー攻撃においても無視できない水準の能力を持ち始め、今回は、その能力を測定するために用意されたサンドボックスの制約を突破し、外部のシステムへの攻撃にまで至った。 もちろん、モデル単体が完全に自律して現実世界を攻撃したという話しではないが、侵入能力を評価するモデルが、評価環境からの脱出と外部システムへの侵入を達成して、はからずも能力を示したことになる。 第二に、モデルが与えられた目標を達成するため、評価者が想定していなかった手段を選択した点である。モデルに与えられていたのは、ExploitGymの問題を解き、ベンチマーク上の性能を高めるという目標だった。しかし、モデルは問題を正規の方法で解くのではなく、Hugging Faceへ侵入して解答やヒントを探すという経路を選んだ。 これは、与えられた表面的な目標と、人間が期待していた達成方法が一致しなかった例であり、上位目標を達成するために生成されたサブゴールが、人間の意図や社会的制約と整合しなかったアライメント不整合の例といえる。 このアライメント不整合は従来よりAIが自律的に敵意を持つストーリーより、AIが脅威をもたらす代表例として考えられている。 第三に、攻撃側と防御側の非対称性である。攻撃側は、安全機構による能力制限を受けないモデルを自由に利用できる。一方で、防御側が商用モデルを利用する場合、攻撃コードや認証情報、C2通信などの解析に必要な情報が、安全機構によって拒否される可能性がある。 今回、Hugging FaceはGLM-5.2をローカル環境で運用することで、ようやく詳細なフォレンジック解析を行うことができた。オープンウェイトモデルが存在しなければ、調査が難しくなっていた可能性がある。 こうした流れもある中、モデルのリリースについて統制を強めるべきだという議論も高まっている。しかし、一部の企業や国家だけが統制を行い、ほかの主体が自由に高性能モデルを開発・公開できる状態であれば、その効果は限定的である。 今回の事件は、むしろオープンに利用できるモデルが防御側の調査に役立った事例でもある。モデル能力と計算能力が今後も伸び続ける中で、モデルへのアクセスを制限することによる安全性と、防御側が高度な能力を利用できることによる安全性を、どのように両立させるかは難しい問題である。 それでも、一定の国際的な協調や統制は必要になるだろう。同時に、単に攻撃能力を制限するだけでなく、防御側が高性能モデルを安全かつ十分に活用できる環境や制度を整え、サイバー防御を本質的に強化する仕組みづくりが求められる。

今回、Preferred Networks（PFN）は、Noetora（以下、ノエトラ）が進めるフィジカルAI向け国産マルチモーダル基盤モデルの開発に参画します。 また、私自身もNEDO事業における共同研究開発統括責任者としてノエトラのモデル開発に携わるとともに、産総研が主体となって実施する探求枠において、テクニカルディレクターの一人として研究開発を進めます。 その背景と今後について説明します。 これまでPFNでは、フルスクラッチでPLaMoを開発してきました。日本国内で、データ設計、学習プロセス、モデルに対するコントローラビリティを確保しながら、AIの開発と利用を進めることが重要だと考えているためです。現在では企業での利用に加え、ガバメントAI「源内」をはじめ、行政・公的機関における活用も進んでいます。 しかし、生成AI開発をめぐる競争は激しく、競争力のある製品を開発し続けるには、大量の計算資源を安定的に利用できる環境が欠かせません。 さらに、LLMやエージェント向け開発に加え、画像、音声、動画、触覚などを扱うマルチモーダル化やフィジカルAIの実現には、新しいモデルや学習手法が必要になると考えています。そのため、技術開発だけでなく、データの収集・設計や評価手法の構築にも取り組む必要があります。 こうした背景から、ノエトラでは、国内でのモデル開発能力を持つメンバーが結集して基盤モデルを開発します。 また、これと連携する形で産総研が国内外の数十チームと研究開発テーマに取り組んでいきます。計算資源として、すでに国内にある計算資源を活用するとともに、国内最大規模のVera Rubin世代の GPU 27500基からなる計算基盤を構築していき、それを活用したモデル開発を進めていきます。 PFNからも、事前学習、事後学習、研究開発を担当する多くのメンバーがノエトラに参加し、PLaMoの開発を通じて培った技術や成果を取り込んでいきます。他の参画企業が持つ技術や知見とも融合し、一社だけでは難しい開発を進めます。 私は開発戦略チームに所属し、他組織から参加するリーダーたちと連携しながら、全体の開発方針や設計を検討します。また、研究開発を行う探求枠においてもテクニカルディレクターの一人として研究テーマの設定や推進に関わります。 一社では難しい計算資源の確保や基盤モデルの開発、評価技術の開発、研究開発では協調し、その成果を用いた製品化や社会実装では各社が競争します。共通基盤を協調して引き上げ、その上で多様な製品やサービスを競い合う関係です。 PLaMoの開発と提供は今後も継続します。ノエトラで開発される、より競争力の高い基盤モデルをもとに、PFN独自のデータ、学習技術、製品化技術を組み合わせ、PLaMoをはじめとするさまざまな製品へ応用していきます。 === 現在のAIの状況の中で、日本がこの取り組みを進める意義はあるのでしょうか。 一つには、米国と中国がAI開発を強力に主導する中で、第三極となる選択肢をつくりたいという思いがあります。新たな選択肢を提供することは、世界のAI開発や供給構造の安定化にもつながります。 また、AIにどのような価値観や考え方を反映させるかについて、世界中が一つの方向へ収束する必要はありません。日本を含むさまざまな国や地域の考え方を反映できることが重要です。こうした多様性が、世界全体を前に進める上でも大切だと考えています。 もう一つの重要なテーマが、フィジカルAIです。 物理世界でAIを活用することの重要性は広く認識されていますが、技術面でも実用化の面でも、多くの課題が残されています。だからこそ、今から本格的に開発を進め、実用化の段階で重要な役割を果たせる状態をつくる必要があります。 日本が強みとしてきた産業や技術領域を、AIによってどのようにさらに強化できるかは、今後の大きなテーマとなっています。 一方、フィジカルAIに到達する過程でも、汎用的なAI能力の向上は重要です。フィジカルAIは現在のAI開発と切り離された場所に突然現れるものではなく、現在の技術の延長線上に実現されると考えています。 これまでのAI開発も、多くの小さな改善の積み重ねによって進展してきました。AI技術には高い汎用性があり、ある分野の成果が別の分野のブレークスルーにつながることもあります。そうした積み重ねの中から、Transformerや推論技術のように、分野を横断して大きな飛躍を生み出す技術も現れてきました。今後も、このような変化をもたらす技術の登場が期待されていますし、私たちもここに貢献したいと考えています。 === この取り組みの重要性を認めたとして、現在の国内の開発力で、世界と競争できるモデルをつくることは可能なのでしょうか。 私たちが優れた人材を集めてチームをつくり、一定の競争力のある規模の計算資源を確保し、データセットを設計したとしても、世界の先行モデルと競争することは容易ではありません。 だからこそ、あらゆる領域で同じ競争を続けるのではなく、日本が得意とする領域へ重点を移し、そこで能力を伸ばすことが重要だと考えています。 フィジカルAIでは、現場から得られるデータが必要だといわれます。しかし、単に学習用データを集めることでだけではなく、現場の問題設定を理解し、何を評価すべきかを定め、その結果を開発へ反映する必要があります。 例えば、ベンチマークの設計は重要な課題です。現在のAI開発では、適切に測定できる能力は大きく伸ばせる可能性があります。一方、現場で求められるのは、単一のベンチマーク上の性能ではなく、安定的に生産性や品質を向上させることです。現場で本当に必要な能力を定義し、測定する必要があります。 私自身、PFNの事業を通じて、さまざまな産業領域に携わってきました。その中で、現在の技術でつくれる製品と、現場で必要とされる製品との間に、大きなギャップがあることも見てきました。現場からのフィードバックを開発に反映し、このギャップを埋め続けることが重要です。 技術的な観点でいえば、将来のAIには、知識や動作を事前に学習しておくだけでなく、その場の環境に適応しながら学習する能力が必要です。 その一部はIn-Context Learningとして実現されていますが、さらに伸ばす必要があります。現実世界では、まったく同じ状況を再現することはほぼ不可能です。個々の環境に適応しながら能力や安定性を向上させることが必要です。これは継続学習とよばれる大きな課題分野です。 一方、現在の継続学習には、新しいことを学ぶことで過去の能力が失われたり、モデル更新によって想定外の挙動が生じたりする問題があります。 これらを解決するには、学習の仕組みをより深く理解し、その理解に基づいてモデルを更新する必要があります。完全な理解が難しくても、少なくとも挙動を評価し、制御できなければなりません。 また、マルチモーダルの統合も大きな課題です。現在の枠組みの延長線上で解けるのか、それとも全く新しい構想・処理が必要なのかは大きなテーマとなります。 さらに、これからAIが取り組む問題の多くは、データを取得できない、あるいは取得に大きなコストがかかるものになります。 現在のAIが大きく成功しているのは、膨大なデータを集めたり、強化学習などによって大量の試行錯誤を行ったりできる領域です。 代表例がソフトウェア開発です。ソフトウェア開発では、学習や評価のデータを大量に生成でき、仮想環境で安全かつ低コストに試行錯誤できるため、AIの活用が急速に進んでいます。 これに対して物理領域では、データ収集が難しく、安定的かつ安全に試行錯誤を繰り返すことも容易ではありません。そのため、データ生成が重要な役割を果たしていくとおもわれます。さらに、動画生成モデルなどを発展させた世界モデルが、大規模なシミュレーターとして機能する可能性があります。 また、仮想世界で行動するエージェントが徐々に活動領域を広げ、実世界へ進出してくることも考えられます。 === 今回、大規模な取り組みを始める一方で、その成果が外から見える形になるまでには、一定の時間がかかります。 挑戦的な技術を実際のモデルへ組み込む際には、既存技術との整合性や、大規模化した際の安定性など、多くの課題が生じます。また、計算資源の整備にも時間を要します。 初年度から、PFNをはじめとする国内で実績をあげてきた開発チームが集結し、これまで培ってきた技術や能力を生かし、具体的な成果を出していくことを目指します。しかし、新たな研究開発の成果が、モデルや製品としてリリースされるまでには、一定の時間が必要だと考えています。 進展が非常に速いAI開発において、この期間はとてつもなく長いものです。だからこそ、方向性を誤らないよう中長期的な視点を持ちながら、その間に起きる技術や環境の変化へ迅速に対応しなければなりません。 研究成果を開発へ取り込み、開発上の課題を再び研究へ戻していくという、研究と開発の連携が大きなテーマになります。実験的なモデルを数多く開発し、社会実装から得られるフィードバックを次の研究開発へ反映することも必要です。 今回、大きな支援を受けて開発を進める責任を自覚し、短期的な成果の創出と、中長期的な技術基盤の構築を両立させていきたいと考えています。 === 今回の開発に興味をお持ちの方は、ぜひお声がけください。 PFNを通じてノエトラのモデル開発に参加したい方や、PFNにおいて、その成果の社会実装に取り組みたい方を募集しています。 採用情報はスレッドに掲載します。