Google DeepMind大再編を読み解きました。尾原調教なAI分析なので、技術ｘ組織力学ｘテック地政学な分析と、今後の分岐点となる５つの監視ポイントです。FactとOpinionは切り分けてるので材料にしていただければ

Google DeepMind の AI 研究から生まれた CodeMender、コード スキャンおよび修復機能をプレビュー版として提供開始！ → Gemini Enterprise Agent Platform を通じて一般提供中のモデルを利用でき、Google AI Threat Defense のコア コンポーネントとしても導入できます。

超高速で自由に作業できる環境を構築 → DeepMind の元 YouTube ソフトウェア エンジニアである Benji Bear は、設計からコーディングまでのライフサイクルを統合し、迅速な実験をメインラインの本番環境サーバーから完全に切り離すプロトタイピング スタックを構築しました。

💭 長いコンテキストを読むAIは、本当は「どこを見ればいいか」をすでに知っているのに、毎回律儀に全部読み直しているとしたらどうでしょうか。 長文コンテキストを扱うモデルは、デコードのたびに巨大なKVキャッシュ全体をスキャンします。実際にAttentionが向くのはごく一部のトークンだけなのに、既存のスパースAttention手法はそれをステップごとに探索し直す必要があり、探索自体がコストになっていました。 KAIST AIとGoogle DeepMindの研究チームは発想を転換し、「モデル自身に、今どこを見ているかを言葉で宣言させればいい」と考えました。これが「Declarative Attention」です。モデルはChain-of-Thoughtの中で、コンテキスト全体を見る、特定の箇所だけを見る、直近の出力だけを見るというモードを自ら宣言し、推論エンジンがそれをそのままAttentionマスクに変換します。 驚くべきことに、これは追加学習なしのゼロショットで機能しました。Gemma-4-31BとQwen-3.6-27Bでは、Attention対象トークンをそれぞれ52.0%・31.1%削減しながら、精度低下はわずか1〜3ポイントに収まっています。モデルが大きく、コンテキストが長くなるほど効果も安定し、最長のケースでは1回の応答あたり2,100万トークン分もの削減につながりました。 Language Models Can Control Their Own Attention 効率化と解釈可能性を同時に実現するアプローチとして、長期推論を行うエージェントの実運用コストを下げる鍵になりそうです。 #LLM# #Attention#

AI生成テキストに「見えない透かし」を入れる——しかも単語は一切歪めずに。その巧妙な仕組みが公開されました。 タイトル: How Claude's text watermark works URL: ClaudeがEU AI法に対応し、将来モデルに目に見えないテキスト透かしを組み込みます。注目すべき3点を掘り下げます。 🎲 注目ポイント1: 変えるのは「単語」ではなく「ランダム性の源」 透かしというと単語を差し替える印象がありますが、この手法は違います。生成時のランダム性の源を、エンコーディングキーと直前の単語から決める方式に差し替えるだけ。モノポリーでサイコロの代わりに円周率πの桁を順に使うようなもので、出力は読者に知覚できず、後から検証だけが可能になります。採用技術はGoogle DeepMindがNatureで発表したSynthID-Textです。 ⚡ 注目ポイント2: 品質・速度・コストへの影響はほぼゼロ 社内テストとDeepMindの統制実験で、透かし有り/無しのテキストに統計的に有意な差はなし。速度への影響は無視でき、追加トークンも不要で料金も据え置き。透かしにはユーザーや組織、特定チャットに遡れる識別情報は含まれず、プライバシーも保たれます。 🔍 注目ポイント3: 万能ではない、その正直な限界 長い文章ほど検出は正確になりますが、短いサンプルは苦手。事実性が要求される箇所や、数式・機能するコードのように言い換えの余地がない出力には透かしを付けられません。軽微な編集は残っても、全面書き換えでは消えます。検出APIは近日提供予定です。 規制対応と実運用品質を両立させる、現実的な透明性の実装だと言えます。 #AI透かし# #EUAIAct#

LLMに回答の自信度を数値化させるのは無意味では、という主張。 ・LLMに0から100の自信度を出力させる手法がよく見られる ・しかし、LLMに自信度を自己評価させるのは完全に無意味 ・科学的な根拠はなく、出力が信頼できそうに見えるだけの心理的なトリック ・Anthropicの研究などで、モデルが内省的な認識を持つことは確認されている ・ただ、それは実験環境での話であり、実際の出力の正しさを評価できるレベルにはない ・思考プロセスを用いて自己評価させても「その自信度の自信度は？」という無限ループに陥る ・実際にDeepMindの論文でも、外部フィードバックなしの自己修正は性能を低下させることが示されている ・現在のモデルは、自らの状態を定量化できるほど自分自身を理解していない ・そもそも、スコア化しようとする自信の定義が極めて曖昧 ・回答の正確性なのか、一貫性なのか、ユーザーの目的を満たそうとしているのか ・全く異なる次元の問題を単一の数値に押し込めるのは無理がある