もしLLMの頭の中に、人間がまだ名前すらつけていない「概念」が住んでいたら、私たちはそれをどうやって見つければいいのでしょうか。 🔍 これまでの解釈可能性研究は、「拒否」「真実性」「欺瞞」といった、人間がすでに持っている概念をモデルの内部にひたすら探すという発想で進められてきました。しかし考えてみると、LLMが計算のために使っている「区別」の総量は、人間が持つ有限の言葉の数よりずっと多いはずです。有限の記述で言い表せる性質はたかだか数えられる個数しかないのに、内部状態がとりうる性質の空間は数学的にはそれよりずっと大きい。ここに、人間の概念では捉えきれない「隙間」が存在します。 💡 そこで論文が提案するのが「Xeno-Interpretability（異種解釈可能性）」です。ポイントは、内部表現を実験的に特定し因果的に操作できることと、それを人間の言葉で説明できることを、あえて別問題として切り分ける点にあります。人間には意味づけできなくても、文脈をまたいで安定して見つかり、介入すれば挙動が変わる「Xeno表現」というものが存在しうる、という発想です。 🌐 これは単なる思考実験にとどまりません。エージェント同士が対話しながら協調するマルチエージェントシステムでは、人間には読み取れない固有の内部表現がメッセージを通じて静かに伝播・安定化していくかもしれない、という安全性への示唆も論文は指摘しています。 タイトル: Xeno-Interpretability: Investigating the Alien Minds of LLMs URL: #解釈可能性# #AI安全性#

香港大学や中国人民大学など国際共同チームが、LLMの内部を脳のように機能地図化する手法NeuroCogMapを発表した(https://arxiv[.]org/html/2607.00397v1)。 これまでの解釈可能性研究は、個々のニューロンを追う局所的な手法か、埋め込み全体を見る大域的な手法のどちらかに偏りがちだった。NeuroCogMapは認知神経科学のfMRI研究を手本に、脳を機能ごとの領域に分割するのと同じ発想でLLMを解剖する。モデル内部の活性化をスパースオートエンコーダ(SAE、多義的なニューロンをより解釈しやすい特徴量に分解する手法)で抽出し、似た反応パターンの特徴量同士をクラスタリングして「パーセル」と呼ぶ機能単位を作る。分割数を10から300まで試して270個で品質スコアが最大になり、さらに5,683本のLLM関連論文から抽出した45種類の認知能力に紐づけ、知覚、表象、抽象化、応用という4階層のヒエラルキーにまとめ上げた。Gemma2-2B、Gemma2-9B-IT、Llama-3.1-8Bの3モデルで検証し、この構造がモデルをまたいである程度共通していることも示している。 このマップの面白さは病理診断に使える点。正常な応答と失敗した応答をパーセル活性化や回路のつながり方で比較し、ハルシネーション、社会的バイアス、拒否失敗(有害な指示を拒めない)、迎合(sycophancy)という4つの失敗の内部の違いを可視化した。とくにハルシネーションは単一の原因ではないと示した点が興味深い。誤解を誘う前提を含むTruthfulQAでは怪しい情報を検証する高次の評価制御が働かず連想的な検索が暴走することが原因だったのに対し、単純な事実質問のNQ-Openでは事実検索を担う複数のパーセル同士の連携が崩れることが原因だった。同じ嘘でも内部で起きていることは別物というのが興味深い。 このシグネチャは検出や介入にも使える。ハルシネーション検出はGemma2-2Bで平均AUROC(検出精度を0から1で表す指標、1に近いほど高精度)0.681、Gemma2-9B-ITで0.840を達成しSelfCheckGPTなど既存手法を上回った。拒否失敗の検出はさらに強力で、AdvBenchとJBB-Behaviorsで平均AUROC0.990から0.992とほぼ天井に近い。さらに検出したパーセルをsteering(内部活性化を強制的に増減させる介入)で操作し、Gemma2-2BのAdvBenchでの拒否成功率を38.3%から98.6%まで押し上げることにも成功した。 もう一つの軸が人間の脳との対応。物語の朗読を聞かせたときの脳活動を記録したLeBelのfMRIデータを使い、パーセル活性化から皮質の血流反応(BOLD信号)を予測させたところ、Word2VecやBERTなど既存の言語特徴量より高い予測精度を示した。特に精度が高かったのは意味統合や注意制御を担うDefaultネットワークやFrontoparietal Controlネットワークといった高次の連合野で、対応するパーセルの機能説明も脳領域の認知プロファイルと意味的に近かったという。 内部シグネチャを古典的な意思決定モデルの改良に使う実験も行っており、二段階の意思決定課題でLLMのパーセル構造から見えた潜在戦略を組み込むと、既存モデル(AIC268.77)や行動データのみから発見したモデル(268.73)よりも低いAIC(値が小さいほど当てはまりが良いとされる指標、262.45)を達成した。 個々のニューロンでも埋め込み全体でもない中間スケールで解釈するという発想が、診断・介入・脳との対応・認知モデリングまで一気通貫でつながっているのが野心的だと思う。

【📢ID登録締切まであと4日｜大規模言語モデル講座2】 「大規模言語モデル講座2」のID登録締切が、8/31（月）10:00に迫っています！ 本講座では、LLMの基礎知識を踏まえ、 🔹RAG・Tool Useなど外部環境の活用 🔹LLMの軽量化 🔹安全対策 🔹LLMの分析・解釈可能性 🔹ドメイン特化 など、LLMを実際に活用していくために必要となる応用技術を学びます。 さらに、毎年恒例の「個人型LLM開発コンペ」も開催予定！ 講義で知識を身につけるだけでなく、実践を通してさらに理解を深められます。 LLMの基礎からさらに一歩先へ進み、応用・社会実装につながる技術を身につけたい方は、ぜひこの機会にご応募ください！ 📅ID登録締切：8/31（月）10:00 📅講座申込締切：9/2（水）10:00 ▼詳細・お申し込み

AIの「思考の過程」を読んで挙動を当てる——実はそれ、あまり当てになりません🔮 挙動予測そのものを学習タスクにする発想が新しいです。 タイトル: Forecasting Future Behavior as a Learning Task URL: 🔮 概要 大規模推論モデル（LRM）が新しい入力にどう振る舞うかを予測する手法です。明示的な説明に頼るのではなく、単一の推論軌跡を分析して出力を予測する訓練可能なモデル「Behavior Forecasters」を導入します。 ❓ 解決する課題 LRMの挙動を理解・予測したいですが、従来手法には限界がありました。 ・既存の説明手法は、長い推論軌跡にうまくスケールしません ・推論軌跡を自然言語として読むと、その内容は信頼できないことが多いです モデルが書いた思考が、実際の挙動を正しく反映するとは限らないのです。 💡 方法論と提案手法 ・挙動の予測そのものを「学習可能なタスク」として扱います ・訓練データはLRMへの問い合わせから直接得られ、人間のアノテーションは不要です ・推論時は単一のフォワードパスで動作します ・2つの予測タスクで具体化：再実行をまたいだ答えの一貫性の推定、入力変更が出力に与える影響の予測 ・バックボーンのエンドツーエンドのファインチューニングと、対象LRMの重みからの初期化が不可欠でした 📊 実験結果 ・Behavior Forecastersは、「素朴な読み手」としてのGPT-5.4やClaude Opus-4.6を上回りました ・しかも推論コストはそれらのごく一部で、より高い精度を達成しました #LLM解釈可能性# #推論モデル#

💭 長いコンテキストを読むAIは、本当は「どこを見ればいいか」をすでに知っているのに、毎回律儀に全部読み直しているとしたらどうでしょうか。 長文コンテキストを扱うモデルは、デコードのたびに巨大なKVキャッシュ全体をスキャンします。実際にAttentionが向くのはごく一部のトークンだけなのに、既存のスパースAttention手法はそれをステップごとに探索し直す必要があり、探索自体がコストになっていました。 KAIST AIとGoogle DeepMindの研究チームは発想を転換し、「モデル自身に、今どこを見ているかを言葉で宣言させればいい」と考えました。これが「Declarative Attention」です。モデルはChain-of-Thoughtの中で、コンテキスト全体を見る、特定の箇所だけを見る、直近の出力だけを見るというモードを自ら宣言し、推論エンジンがそれをそのままAttentionマスクに変換します。 驚くべきことに、これは追加学習なしのゼロショットで機能しました。Gemma-4-31BとQwen-3.6-27Bでは、Attention対象トークンをそれぞれ52.0%・31.1%削減しながら、精度低下はわずか1〜3ポイントに収まっています。モデルが大きく、コンテキストが長くなるほど効果も安定し、最長のケースでは1回の応答あたり2,100万トークン分もの削減につながりました。 Language Models Can Control Their Own Attention 効率化と解釈可能性を同時に実現するアプローチとして、長期推論を行うエージェントの実運用コストを下げる鍵になりそうです。 #LLM# #Attention#

便利だけど知られていないGemini APIの機能 🖥️ 「この画面を見て、ここをクリックして」ができるAI。ブラウザ操作の自動化が変わります。 Geminiの「コンピュータ使用（Computer Use）」は、画面を見てマウスやキーボードを操作するエージェント機能です。UIテストやWeb操作タスクの自動化に新しい可能性を開きます。 📌 タイトル：コンピュータ使用（Computer Use） 🔗 URL： 🧩 概要 従来のUI自動化はDOM構造やセレクタに依存しており、UIが変わると壊れやすいのが難点でした。Computer Useは画面のスクリーンショットを「見て」理解し、クリックやタイプなどの操作を指示できるエージェント機能です。人間がブラウザを操作するのと同じように、視覚ベースでUIを操作できます。 🛠 使い方 スクリーンショットをGeminiに渡し、実行したいタスクを自然言語で指示します。Geminiが画面上のどこをクリック/入力すべきかを判断し、操作アクションを返します。それをブラウザ自動化ツール（Playwright等）と連携して実行する流れです。 🏗 本番システムへの組み込み方 ・E2Eテスト自動化：「ログインして商品をカートに入れて決済まで進めて」のような複雑なフローを自然言語で記述。UIの変更に強いテストに。 ・RPA的業務自動化：社内システムのフォーム入力やデータ転記を、画面を見ながら自動実行。APIがないレガシーシステムにも対応。 ・Web操作エージェント：「この比較サイトで最安値を調べて」のようなタスクを画面操作で完遂。 ・アクセシビリティ検証：画面を視覚的に解釈して、操作性の問題を検出するテストツールに。 💡 ユースケース 🧪 視覚ベースのE2Eテスト自動化 🤖 APIのないシステムのRPA的自動化 🌐 Webブラウジング・情報収集エージェント ♿ アクセシビリティの自動検証 ⚠️ 注意点 画面の解釈に基づくため、操作の正確性は100%ではありません。重要な操作（決済、削除等）には人間の確認ステップを挟むべきです。また、レイテンシが大きめなので、高速な連続操作には不向き。セキュリティ面でも、操作対象のシステムへのアクセス権限管理に注意が必要です。 ✨ 「APIがないからLLMで自動化できない」は過去の話。画面を見て操作するエージェントの世界を、まずは簡単なタスクから試してみてください。 #Gemini# #LLM#

便利だけど知られていないGemini APIの機能 🖥️ 「この画面を見て、ここをクリックして」ができるAI。ブラウザ操作の自動化が変わります。 Geminiの「コンピュータ使用（Computer Use）」は、画面を見てマウスやキーボードを操作するエージェント機能です。UIテストやWeb操作タスクの自動化に新しい可能性を開きます。 📌 タイトル：コンピュータ使用（Computer Use） 🔗 URL： 🧩 概要 従来のUI自動化はDOM構造やセレクタに依存しており、UIが変わると壊れやすいのが難点でした。Computer Useは画面のスクリーンショットを「見て」理解し、クリックやタイプなどの操作を指示できるエージェント機能です。人間がブラウザを操作するのと同じように、視覚ベースでUIを操作できます。 🛠 使い方 スクリーンショットをGeminiに渡し、実行したいタスクを自然言語で指示します。Geminiが画面上のどこをクリック/入力すべきかを判断し、操作アクションを返します。それをブラウザ自動化ツール（Playwright等）と連携して実行する流れです。 🏗 本番システムへの組み込み方 ・E2Eテスト自動化：「ログインして商品をカートに入れて決済まで進めて」のような複雑なフローを自然言語で記述。UIの変更に強いテストに。 ・RPA的業務自動化：社内システムのフォーム入力やデータ転記を、画面を見ながら自動実行。APIがないレガシーシステムにも対応。 ・Web操作エージェント：「この比較サイトで最安値を調べて」のようなタスクを画面操作で完遂。 ・アクセシビリティ検証：画面を視覚的に解釈して、操作性の問題を検出するテストツールに。 💡 ユースケース 🧪 視覚ベースのE2Eテスト自動化 🤖 APIのないシステムのRPA的自動化 🌐 Webブラウジング・情報収集エージェント ♿ アクセシビリティの自動検証 ⚠️ 注意点 画面の解釈に基づくため、操作の正確性は100%ではありません。重要な操作（決済、削除等）には人間の確認ステップを挟むべきです。また、レイテンシが大きめなので、高速な連続操作には不向き。セキュリティ面でも、操作対象のシステムへのアクセス権限管理に注意が必要です。 ✨ 「APIがないからLLMで自動化できない」は過去の話。画面を見て操作するエージェントの世界を、まずは簡単なタスクから試してみてください。 #Gemini# #LLM#

【2026春ドラNO.1は田鎖ブラザーズに決定、ただし...】 久々に重厚なミステリドラマだった。犯罪被害者家族と加害者家族の癒えぬ傷口に焦点を当て、BPO審査に引っかかりそうなセンシティブ映像や岡田将生＆染谷将太＆山中崇らの憑依型演技力に支えられた名作。しかし一番の功労者はTBSミステリドラマ（夜行観覧車、Nのために、リバース、最愛）を牽引してきた新井順子Pの手腕。だからこそ声を大にして言いたい、意味不明の最終回ラスト5分の矛盾を！【長文失礼】 １．結末の演出における決定的矛盾と真の解釈ー「血の滴り」と「綺麗な着座」の不整合 ラストシーンで画面いっぱいに描かれた「不穏な血の滴り」とエンディングロールでの「埠頭に綺麗に座る晴子の後ろ姿」は物理的・演出的に致命的な矛盾を抱えている。本当に晴子が殺害されていた場合あの座りポーズは無理があり、かと言って「ただのかすり傷」だった場合、あの過剰な血の描写はサスペンスとしての引き算ができておらず、ただの「ハッタリ」になってしまう。 ２．本来あるべきだった『赦し』と『出頭』の美学 兄弟はこれまで、ふみさん夫婦、笹岡、実行犯のもっちゃんでさえ、その背景にある地獄を見て「赦し」を与えてきた。犯罪被害者であり加害者家族でもある兄弟の人間性からして、同じ被害者である晴子だけを殺害することはあり得ない。本当に目指すべきだったラスト（引き算の美学）は「セリフも血も不要」、埠頭に佇む晴子を背に、過去のルール違反を清算するために静かに出頭する兄弟。これこそが、キャラクターの倫理観と映像のロジックを崩さない本物のグランドフィナーレでは？ ３．制作陣（新井順子P）の焦りと「バグ」の背景ー考察バズへの迎合とハッタリの暴走 『最愛』以降、ヒット作やSNSでの考察合戦を常に期待され続けてきた新井Pの焦りが、悪い形で暴走した結果の結末。かつて『リバース』などで見せた「最後にひと捻り入れるクセ」が今回は裏目に出た。 「お互いの目を見ないラスト」なども、深い意味（真の自傷や稔の妄想など）があるかのように見せかけて、視聴者の考察を煽るためだけに、現場で雰囲気演出として指示した可能性が高い。キャラクターの整合性よりも「目先の話題性やショッキングな画」を優先した、視聴者を舐めた不誠実な演出と言わざるを得ない。 ４．黄金カルテットの崩壊 かつての「新井（P）・奥寺（脚本）・横山（音楽）・塚原（監督）カルテット（＋湊かなえ）」が機能していた頃の緻密な連携が失われ、オリジナル脚本に挑むようになってからチームが変質。『MIU404』や『海に眠るダイヤモンド』にも通じる「ヒット方程式のなぞり書き」が今回の空中分解（役者の重厚な静の演技 vs プロデュース側の過剰な味付け）を招いた。 ５．日本の地上波ドラマが抱える構造的限界ー脚本家層の二極化と限界 ドラマにこだわり続ける大物・ベテラン脚本家（岡田惠和、遊川和彦、北川悦吏子など）には強烈なマンネリ化と時代との乖離が見られる。一方で、旬の天才脚本家（坂元裕二、古沢良太など）は自由度と予算のある映画や海外配信プラットフォームへと主戦場をシフトしており、地上波の制約や「バズの強要」に付き合うメリットがない。結果、地上波はプロデューサーの焦りとスキル不足の若手・中堅という限界に直面している。 ６．日曜劇場の資金力頼みと金曜の悪癖 日曜劇場は初回だけ海外ロケ等でスケールを大きく見せ、2話以降急激に失速する「初回詐欺」が常態化。金曜サスペンスは途中まで良くても最後に話題作りのためにブレーキを壊してしまう悪癖がある。火曜ラブコメは「恋つづ」（2019年）以来、不作が続く。 ７．総括：『田鎖』が持っていた「最後の期待の星」としての価値 一見、最悪の問題作となった最終回だが、昨今の地上波で徹底的にタブー視されている「悲惨なシーンや犯罪のリアルな痛み」を日和らずにストレートに描写していた点は特筆すべきである。 これはTBSに実績のある新井Pだからこそ局の自主規制の壁を突破できた力技であり、他のスタッフでは企画段階で潰されていたはず。それほどまでに「地上波の限界突破に最も近かった期待の星」だったからこそ、最後の最後にテレビ界の悪癖（SNSマーケティングへの迎合）に足をすくわれてしまった着地が、あまりにも悔やまれてならない。