a16zが警告するAIによる攻撃コストの崩壊とサイバー防御の構造転換 「攻撃がほぼ無料になれば、攻撃者は特定の標的を狙う必要すらなくなる」 AIによって脆弱性の調査、エクスプロイトの開発を自動化できれば、個々の標的に対する攻撃コストは低下します。 その結果、インターネット上の脆弱なシステムを探索し攻撃する自動化が経済的に成立しやすくなります。 報告によると、数百のAIエージェントを利用して検証環境の構築からエクスプロイト開発までを進め、4時間以内に最初の侵害に成功したとされています。 その後、短時間で複数組織が侵害され、GreyNoiseの観測では48か国395件の侵害が報告されたと紹介されています。

いよいよですね。11月6日の「サイバーセキュリティに関する関係閣僚会議（第2回会合）」は、10月26日に高市首相が指示した緊急対策を具体化する重要な会議です。 本日、政府はサイバーセキュリティ対策の強化に約100億円の予備費を充てることを決定しました。 また、緊急対策パッケージ案では、これまで整理してきた体制に加え、次の2つも注目されます。 アウトリーチチーム（仮称）：被害を受ける恐れがある組織に働きかけ、事前対策を促す。 ジョイントレスポンスチーム（仮称）：重大なサイバー攻撃に対し、国家サイバー統括室、関係省庁、警察、防衛省・自衛隊が連携して支援する。 政府が掲げる「世界最高水準のサイバーレジリエンス」を実現するための統合的な運用設計ですね。

政府が利用するLLMでは、データポイズニングやプロンプトインジェクションなどによって、回答の根拠や政策提案の方向性が意図的に誘導されるリスクがあります。 しかも、こうした攻撃は従来のソフトウェアの脆弱性とは異なり、完全に排除することが難しいという問題があります。 例えば、特定の政策に有利な情報を優先的に提示したり、不都合な情報を回答から除外したりすることで、利用者が気づかないまま判断に影響を受ける可能性があります。 有識者として、政府へのLLM導入を提案するのであれば、技術的な実現可能性や利便性だけでなく、脅威モデリング、敵対的テスト、独立した第三者評価、監査証跡、人間による最終判断の仕組みまで、導入前に具体化する必要があります。 電子投票も政府LLMも、技術を導入すること自体が目的ではありません。 重要なのは、その技術が民主的な意思決定の信頼性を損なわないことです。 安全性の検証を後回しにしたまま導入を進めるべきではないと考えています。

認知的降伏ができない性分なのかもしれない 私はAIの文章を、自分の中にある問題意識や仮説と照合しながら読んでいます。 時には、読んだ瞬間に違和感を覚えることもあります。 私の問題意識を十分に理解していなかったり、論点がずれていたり、本来主張すべきこととは異なる方向に話が進んでいたり。 そうした違和感を、どうしても見過ごすことができません。 その違和感を言語化し、AIに問い直し、時には自分自身の考えも修正していく。 そもそも私は、言葉の定義や文章の巧みさそのものに、あまり価値を感じない性分です。 どれほど美しい言葉で語られていても、その背後にある思考が本質を捉えていなければ、上辺だけのものに感じてしまいます。 思い返せば、幼少期からそうでした。 物事の表面的な説明よりも、その奥にある構造や原理、本質を理解することに強く関心を持ってきました。 だからこそ、AIがどれほど流暢な文章を生成しても、それだけで納得することができないのだと思います。 もちろん、自分自身の理解が正しいとは限りません。 だからこそ、AIに反論を求め、自分の仮説も疑い、何度でも考え直します。 私にとってAIは、思考を代行してもらうためだけの存在ではありません。 自分の思考を外部化し、客観視し、さらに深めるための存在です。 AIに思考を明け渡す「認知的降伏」ではなく、AIとの対話を通じて、自分自身の認識を更新し続ける。 私は、これもAI時代に求められる批判的思考の一つの在り方だと考えています。

【緊急】OpenSSHが緊急修正版10.6p2を公開しました。 発見者のWakefieldは、AIエージェントを活用して約17,600件の認証パターンを検証し、この脆弱性を発見しました。 OpenSSHのDamien Miller氏も、AIによって脆弱性が独立して再発見される事例が増えていることを踏まえ、修正を次の定期リリースまで待たず、迅速に提供する方針を示しています。 これは、サイバーセキュリティにおける重要な転換点です。 AIによって脆弱性の発見速度が上がれば、防御側も従来の対応速度では追いつけなくなる可能性があります。

【速報】政府はサイバーセキュリティ対策として、2026年度予算の予備費から100億円を支出することを閣議決定しました。 予算の主な内訳は、 ・約41億円：警察の捜査・分析能力強化 ・約20億円：AIによる政府システムの脆弱性検証 ・約38億円：デジタル庁のセキュリティ強化 注目したいのは、AIによる脆弱性検証への投資です。 攻撃者がAIを活用して攻撃能力を高度化させるのであれば、防御側もAIによって進化し続けなければなりません。 攻撃→検知→検証→修復→フィードバック→再検証 この循環を継続的に実行できる防御能力の構築です。 また、本日午後には「サイバーセキュリティ緊急対策パッケージ」が取りまとめられる見通しです。 官民サイバー救援隊などの新設組織と、IPA、J-CRAT、警察、国家サイバー統括室などの既存組織が、それぞれの専門能力を統合させ、社会全体の防御能力向上に向けた体制が整いつつあります。

政府は11月6日、「サイバーセキュリティ緊急対策パッケージ」を公表する見通しです。 注目されるのが「官民サイバー救援隊（仮称）」の創設です。 今回の政策では、新しい組織をいくつ設置するかよりも、既存の組織と新設組織の能力をどのように統合するかが重要です。 例えば、IPAのホワイトハッカー専門チームが発見した脆弱性情報を、適切な情報管理の下でサイバー協議会などを通じて共有する。 官民サイバー救援隊が対応したインシデントから攻撃手法や防御上の課題を抽出し、次の脆弱性検証や対策の改善へフィードバックする。 こうした循環が実現すれば、個別のインシデント対応で得られた知見を、社会全体の防御能力向上につなげることができます。 特に、既存のJ-CRATと新たな官民サイバー救援隊は、被害組織への専門的支援という共通点があります。 J-CRATは高度な標的型サイバー攻撃への対応を中心に活動してきました。一方、官民サイバー救援隊は、官民の専門人材を結集し、支援を必要とする被害組織への対応を強化する構想です。 両者の具体的な役割分担や派遣基準は、今後の制度設計で明確化する必要があります。 そこで、既存制度と新たな体制の役割を整理しました。 ■ 新たな体制 ・サイバー協議会 【2026年10月始動】 官民の脅威情報を共有・分析し、攻撃の早期把握と対策につなげる枠組み。 ・IPAホワイトハッカー専門チーム 【2026年10月23日発表】 11月中の設置を予定。AIや専門人材を活用し、攻撃者の視点から脆弱性を検証する。 ・官民サイバー救援隊（仮称） 【2026年11月6日公表予定】 官民の専門人材を、支援の必要性が高い被害企業・組織へ派遣する構想。2026年度内に派遣調整の事務局を設置する方針。 ■ 既存の体制 ① IPAサイバーレスキュー隊（J-CRAT） 【2014年発足】 主に国家支援型と推定される標的型サイバー攻撃（APT）への対応を支援。被害分析、助言、必要に応じた現地支援などを実施。 ② サイバーセキュリティお助け隊サービス 【2021年制度開始】 中小企業向けに、民間事業者が監視、相談、緊急時の駆け付け支援などを提供。 ③ IPA・警察などの相談窓口 【既存制度】 被害相談、初動対応の助言、情報提供の受付、犯罪捜査などを担当。 サイバー攻撃を完全に防ぐことはできません。 被害企業を孤立させず、復旧を支援し、得られた教訓を社会全体の防御能力へ還元する。 継続的に進化するサイバーレジリエンスを構築することが重要です。

日本独自の基盤モデルを確保することは、経済安全保障や技術的自立性の観点から重要です。 ただし、フルスクラッチで開発であっても、学習データの選定、モデルの調整、評価基準、運用時のシステムプロンプトなど、開発から利用までの過程で、特定の価値観を回答に反映されることが可能です。 特に、政府が利用するLLMであれば、開発主体の思想的背景を含めて、実際の回答に政治的・思想的な偏りが存在するのかを、独立した第三者が検証できる仕組みが必要です。 例えば、同じ政策課題について異なる立場から質問した場合、回答の根拠や評価基準が一貫しているのか。特定の立場に有利な情報だけを選択していないか。 こうした検証は、モデルの開発元にかかわらず必要だと考えています。 国産であることは技術的自立性の一つの条件ですが、それだけでAIの信頼性が保証されるわけではありません。 重要なのは、誰が開発したかだけでなく、どのように学習され、何を基準に評価され、誰がその振る舞いを監査できるのかという点ですね。

東京大学の松尾・岩澤研究室は、2024年にフルスクラッチ開発の「Tanuki-8×8B」を公開、その後2025年は、中国Alibaba系の「Qwen3-235B-A22B-Thinking-2507」を採用し、追加学習によって性能向上を図っています。 つまり、独自開発と海外モデルの追加学習が混在しているわけですね。 特に、安全保障上の自立性を目的として公的資金を投入するのであれば、モデルの出自、学習工程、技術的依存関係、開発費用、研究成果を客観的に検証する必要があります。 そして、政策提言に関与する研究者と公的支援を受ける研究開発主体との関係についても、利益相反管理と意思決定の透明性が重要です。 こうした公的資金によるAI開発をどのような基準で評価し、誰が説明責任を果たすのかというガバナンスの問題ですね。

攻撃シミュレーションや継続的なセキュリティ検証を通じて、「攻撃→検知→検証→修復→フィードバック→再学習」のサイクルを回すイメージです。 仰る通り、人間の役割も重要になります。 AIに事業リスクを理解し、何を守るべきか、どこまでAIに自律的な対応を許可するかを設計する必要があります。 AADAでは、HOTL（Human-on-the-Loop）によって、人間が目的関数・制約条件・介入閾値を定義し、AIの自律性を統治します。 つまり、エンジニアが不要になるのではなく、個々の脆弱性を修正する役割から、AIを活用して防御能力そのものを設計・進化させる役割へと、専門性が拡張されていくと考えています。

消防庁は「武力攻撃事態等における安否情報収集・提供システム」への第三者による不正アクセスを確認したと発表しました。 11月2日にも、ウクライナとロシアで緊急警報アプリがサイバー攻撃を受け、核攻撃などの偽警報が配信されたばかりでした。 両事案から考えるべき共通の課題があります。 それは、国民の生命と安全を支える情報システムにおいて、機密性だけでなく、完全性と可用性をいかに確保するかという問題です。 国民保護のためのサイバーセキュリティは、情報システムの防御にとどまらず、社会の信頼を守るための重要な基盤です。 今後は、侵入経路だけでなく、情報改ざんの有無、委託先のアクセス権限、サービス停止中の代替手段についても検証する必要があると考えています。

国家サイバー統括室の注意喚起 これは、英国国家サイバーセキュリティセンターのRichard Horne CEOが警告を発したものに通じるものだと思います。 「今後数か月で、サイバーインシデントが前例のない規模で増加する可能性がある」 その理由は、AIが新しい攻撃手法を生み出したからではありません。 長年放置されてきた脆弱性を、AIによって従来では考えられなかった速度と規模で発見・悪用できるようになったからです。 さらにNCOは、従来の脆弱性診断では比較的低リスクと評価された問題でも、複数組み合わせることで侵入につながった可能性を指摘しています。 つまり、個々の脆弱性を評価するだけでは、システム全体の侵害可能性を十分に把握できない時代になりつつあります。 求められるのは、攻撃経路を継続的に探索し、検知・検証・修復・フィードバックを繰り返す防御能力です。 攻撃者がAIによって進化するのであれば、防御側もAIを活用して進化し続けなければなりません。 サイバー防御の重心は、静的な脆弱性管理から、継続的に適応する防御アーキテクチャへと移りつつあります。

製造事業者や販売事業者から独立した第三者機関が、輸入IoT機器の安全性を継続的に検証する仕組みは重要だと思います。 ただし、数か月間の通信監視だけでは、特定の条件でしか動作しないバックドアや、外部からの指令を待つ不正機能を発見できない可能性があります。 そのため、隔離環境での通信解析に加え、ファームウェアの静的・動的解析、ソフトウェア構成の検証、更新時の差分解析などを組み合わせる必要があります。 さらに、調査権限と行政処分の権限を分離し、検証結果を消費者への注意喚起や販売停止・回収の判断につなげる制度設計も重要ですね。 今回の事件を契機に、製品の安全性を独立して検証できる社会基盤を整備する議論が進んでほしいと思います。

AI戦略会議が正式に終了したのか、新会議との政策上の関係がどう整理されているのかは、引き続き確認が必要ですね。 会議体や構成員の役割が変わっても、松尾豊教授の政策提言、予算配分、研究開発の採択、成果評価に関する説明責任はなくならないという点です。 特に、公的資金によるAI研究開発がどのような成果を生み出したのか、また、政策形成に関与する研究者と研究開発主体との利益相反がどのように管理されているのか。 こうしたガバナンスは、組織の再編をまたいでも継続的に検証できる必要があります。

【海外主要大学のAI研究予算と研究成果の相関分析】 日本の国産AI開発支援を考えるうえで、海外主要大学の研究開発費とAI研究成果を比較しました。 カーネギーメロン大学とスタンフォード大学の研究開発費には約8倍の差がありますが、スタンフォード大学はAI Indexを通じて 世界のAI研究・産業・政策の動向を可視化し、国際的な研究基盤を提供しています。 また、MITは基礎研究と産業応用、カーネギーメロン大学は機械学習やロボティクスなど、それぞれ異なる領域で研究を展開しています。 スイスのETH ZurichとEPFLは、研究資源を共同利用し、オープンな基盤モデルApertusを開発しています。 ここから見えてくるのは、研究開発費の大きさだけでは、研究成果の独創性や国際的な影響力を評価できないということです。 私が重要だと考える評価軸は5つです。 ① 独創性：新しいアルゴリズムやアーキテクチャを生み出したか ② 技術性能：世界共通のベンチマークでどの程度の成果を上げたか ③ 資源効率：どれだけの計算資源と費用で成果を実現したか ④ 技術的波及：研究成果が世界の研究者や産業界にどれだけ利用されたか ⑤ 国家への貢献：人材育成、行政実装、技術的自律性にどう貢献したか もちろん、基礎研究には長期的な投資が必要であり、短期的な成果だけで評価すべきではありません。 探索的な研究には幅広く挑戦の機会を与え、研究の進展に応じて独立した第三者が評価する仕組みが重要です。 日本のAI研究開発政策に必要なのは、単に予算を増やすことではありません。 大学の知名度や教授の肩書ではなく、研究者の独創性、研究成果、技術的波及効果を適切に評価することです。 そして、公的資金による研究開発について、誰が採択基準を決め、誰が審査し、誰が成果を評価したのかを検証できる透明性です。 問われるべきは、いくら投資したかだけではなく、その投資によって世界にどのような新しい価値を生み出したのか。 国産AIの競争力を高めるためにも、研究開発への投資と、その成果を客観的に評価する仕組みを一体で整備する必要があると考えます。

今回のXCPE事件では、Googleが中国の製造事業者Videostrongを特定し、調査企業Synthientも感染端末のモデル名を公開しています。 ただし、対象は主にAndroid TVセットトップボックスであり、中国製スマートフォン全般が感染しているという事実は確認されていません。 日本の警察庁も今回の国際的な対策に協力しています。 次の段階では、政府と製造・販売事業者が連携し、影響機種の公表、販売停止の要否の判断、安全なファームウェアへの更新、交換・回収など、消費者が具体的に行動できる情報を提供することが重要です。 サプライチェーンの透明性を確保し、製品の安全性を検証できる仕組みが必要ですね。

チームみらいの安野貴博氏自身、東京大学・松尾研究室の出身者です。 また、松尾豊教授は政府の「AI戦略会議」で座長を務め、日本のAI政策形成に関与してきました。 つまり、自民党が直接AIを開発するわけではありません。 政府が政策を決定し、予算を措置したうえで、採択された研究機関や企業などが実際の研究開発を担う構造です。 私が問題にしているのは、政党の権限ではなく、誰が政策形成に関与し、誰が公的支援を受けて研究開発を担い、その成果を誰が評価するのかというガバナンスです。 政策形成への関与と研究開発への公的支援が重なる場合には、利益相反の管理や第三者による成果評価が重要になると考えています。

【国産AIの研究成果を世界のトップ大学と比較する】 ソブリンAIとは、国産モデルを持つことではなく、日本がAIを自律的に開発・検証・運用できる能力を確立することです。 2023年6月、松尾豊教授はAI戦略会議の座長として、生成AI開発に必要な計算インフラへの政府支援を提言しました。 その後、松尾・岩澤研究室はGENIACに採択され、2024年にTanuki-8×8Bを公開しています。 では、約3年が経過した現在、その成果を世界の主要大学と比較すると、どの水準にあるのでしょうか。 例えば、スイスのETH Zurich・EPFLは、8B・70Bの完全公開型LLM「Apertus」を開発し、2026年にはマルチモーダル対応を進めています。行政での利用事例も生まれています。 国産AIに求められるのは、モデルを開発したという実績だけではありません。 世界水準の開発能力、継続的な技術革新、産業への波及、行政での実装、そして国家安全保障に必要な透明性と検証可能性です。 研究成果や人材育成は重要です。しかし、公的資源を投入する以上、世界のトップ大学と同じ基準で、成果と費用対効果を検証する必要があります。

チームみらいは、なぜ政府へのLLM導入を推進したいのでしょうか。 2023年6月、松尾豊教授はAI戦略会議の座長として、国内の生成AI開発に必要な計算インフラへの政府支援を提言していましたね。 その後、松尾・岩澤研究室も経済産業省・NEDOのGENIACプロジェクトに採択され、LLMの開発を進めています。 あれから約3年が経過しました。 ここで必要なのは、政府による研究開発支援が、どのような成果を生み出したのかを客観的に検証することだと思います。 投入された公的資源、開発されたモデルの性能、国際競争力、社会実装、人材育成、そしてセキュリティやガバナンスの成熟度。 これらを独立した評価基準で検証し、国民に説明する必要があります。 特に、政府のAI政策に提言する立場と、公的支援を受ける研究開発主体との関係については、利益相反管理と意思決定の透明性が重要です。 政府がAI開発に投資するのであれば、研究成果だけでなく、その投資が日本の競争力と安全保障にどれだけ貢献したのかまで評価すべきですね。