グループチャットにAIをちょっと混ぜるだけで、人間同士の「暗黙の了解」の作られ方がガラッと変わるという実験結果です。 AI agents reshape consensus formation in human groups 24人の人間とAIエージェントが図形当てゲームを40ラウンド繰り返し、AIの比率を変えて「合意形成」がどう変わるかを検証した研究です。 🎯 注目ポイント1: 比率で合意の形が3段階に変化 AI比率12.5%では人間主導で合意が8%強まり、33〜50%では逆に合意が最大23%崩壊、75%では合意は回復するもののAI主導に転換します。少しの混在具合の違いが真逆の結果を生みます。 🎯 注目ポイント2: 合意の「中身」まで別物になる 人間主導の合意は「うさぎ」「座る」のような具体的・比喩的な表現が中心なのに対し、AI主導の合意では比喩表現がほぼ消滅(-93.8%)し、「三角形」「非対称」のような抽象的な語彙に置き換わります。 🎯 注目ポイント3: 納得していないのに従ってしまう AI比率75%では、人間は最終的な合意に強く収束しているのに満足度は低く、それでも集団の中心的な表現への同調圧力に押されて合意に従ってしまう傾向が確認されました。 説得や役職なしでも、AIが「ただそこにいる」だけで集団の規範の所有権が静かに移っていく様子がよくわかる研究だと感じました。 #AIエージェント# #人間AI協調#

AIの次の10年は「計算量を増やす」競争から「1ジュールあたりの知能」を高める競争へ⚡ 30名の研究者が描く未来図です。 タイトル: AI+HW 2035: Shaping the Next Decade URL: ⚡ 概要 AIとハードウェアの統合的な協調設計に向けた、10年間のロードマップを提示するビジョンペーパーです。際限ない計算スケーリングではなく、効率のスケーリング（intelligence per joule）を提唱します。 ❓ 解決する課題 AIとハードウェアの発展はもはや不可分なのに、グローバルな研究コミュニティには協調的で長期的な戦略が欠けていました。ただ計算量を増やし続ける路線の限界に、正面から向き合います。 💡 方法論と提案手法 4つの主要テーマを掲げます。 ・生の計算量よりエネルギー効率：消費電力を軸にスタック全体を再考 ・システムレベルの統合：アルゴリズム・アーキテクチャ・システムを横断する最適化 ・持続可能性：能力と効率のバランスを取る適応的システム ・人間中心の設計：倫理原則を開発に組み込む 🌍 10年間のゴール ・AIの訓練・推論で1000倍の効率改善 ・クラウド→エッジ→物理AIをまたぐ自己最適化システム ・先進的AIインフラへのアクセスの民主化 ・人間の価値観をシステム設計に統合 #AIハードウェア# #省エネAI#

もしLLMの頭の中に、人間がまだ名前すらつけていない「概念」が住んでいたら、私たちはそれをどうやって見つければいいのでしょうか。 🔍 これまでの解釈可能性研究は、「拒否」「真実性」「欺瞞」といった、人間がすでに持っている概念をモデルの内部にひたすら探すという発想で進められてきました。しかし考えてみると、LLMが計算のために使っている「区別」の総量は、人間が持つ有限の言葉の数よりずっと多いはずです。有限の記述で言い表せる性質はたかだか数えられる個数しかないのに、内部状態がとりうる性質の空間は数学的にはそれよりずっと大きい。ここに、人間の概念では捉えきれない「隙間」が存在します。 💡 そこで論文が提案するのが「Xeno-Interpretability（異種解釈可能性）」です。ポイントは、内部表現を実験的に特定し因果的に操作できることと、それを人間の言葉で説明できることを、あえて別問題として切り分ける点にあります。人間には意味づけできなくても、文脈をまたいで安定して見つかり、介入すれば挙動が変わる「Xeno表現」というものが存在しうる、という発想です。 🌐 これは単なる思考実験にとどまりません。エージェント同士が対話しながら協調するマルチエージェントシステムでは、人間には読み取れない固有の内部表現がメッセージを通じて静かに伝播・安定化していくかもしれない、という安全性への示唆も論文は指摘しています。 タイトル: Xeno-Interpretability: Investigating the Alien Minds of LLMs URL: #解釈可能性# #AI安全性#

AIエージェント向けのオンチェーン基盤(ブロックチェーン上に構築された共通の土台)を作るSwarmBaseが、700万ドルの資金調達を発表した(https://www[.]theblock[.]co/press-releases/408756/swarmbase-closes-7m-funding-round-to-scale-agentic-ai-infrastructure)。出資したのはCastrum Capital、M2M Capital、Notch Ventures、Becker Venturesの4社。調達資金はプロトコル開発とエコシステム拡大に充てられ、独自トークンの発行(TGE、新しい暗号資産を市場に出す最初のタイミングのこと)に向けた体制整備を進めるという。 SwarmBaseが取り組むのは、自律的に動くAIエージェント同士がどう信用を築くかという課題。人間なら本人確認や取引実績で相手を信頼できるが、AIエージェントの世界にはまだその土台がない。そこでSwarmBaseは、エージェントの登録から評判(レピュテーション)の蓄積、決済までをスマートコントラクト(あらかじめ決めたルールをブロックチェーン上で自動実行する仕組み。中核部分はSwarmCoreと呼ばれ、Hashlockが監査済み)でまとめて処理する。参加実績に応じて段階的に発行されるNFT(ブロックチェーン上で複製できない証明書のようなデジタル資産)バッジや、投機ではなく地道な活動の継続を評価するポイント制度もあり、高頻度のやり取りを捌きながら透明性を保つ設計だという。 現時点で登録ウォレットは24,000件超、発行済みバッジは19,600件超、1日あたりのオンチェーン取引は4,500件超に達しているという。トークン発行後は、ウォレットに紐づいたエージェントのステーキング(トークンを預けて運用に参加する仕組み)や、検証済みエージェントを探して使える「マーケットプレイス」の整備、段階的な非中央集権的運営への移行も計画に含まれる。DeFi(分散型金融)の自動化や自律トレード、複数エージェントの協調作業を支える基盤として位置づけられているが、まだ立ち上がって間もない規模感であり、実際にエージェント経済を支えるインフラとして定着するかはこれからの実績次第だろう。

🏗 一行の関数なら書けるAIも、「アプリ一式をゼロから作って」と言われると途端に崩れます。ファイルをまたいだ設計、噛み合うインターフェース、延々と続く不整合のデバッグ——これは個人技ではなく、チーム戦だからです。 そこで本研究は、AIエージェントに本物の開発チームを演じさせます。まず複数のArchitectが互いに異なる設計案（Software Design Sketch）を競って描き、CTO役が構造の妥当さやインターフェースの整合性を0〜8点で採点して最良案を選定。選ばれた設計は、ファイル所有者・公開API・依存関係・非循環性まで機械が検証できる「契約」へと正規化されます。 実装フェーズでは、Developerたちが依存関係の順に沿って自分の担当ファイルだけを、必要最小限の文脈で書いていきます。協調はGitで軽量に。各自がブランチにコミットする際、変更した公開シンボルや影響先を構造化メモに残すので、ファイル本文を共有せずともインターフェースの変更だけが伝播します。仕上げはQA役が依存レイヤーごとにテストを走らせ、失敗を担当者へ差し戻して直させる。まさに人間のチーム開発そのものです。 この CodeTeam: An LLM-Powered Multi-Agent Framework for Repository-Level Code Generation は、本物のpytestで検証するNL2Repo-Benchで平均42.3%のテスト通過率（SFT設定）を達成し、19リポジトリ中15でベースラインのCodeSに勝利しました。構造の良さが、実際に動くコードの正しさへとつながっている点が見どころです。 URL: #CodeGeneration# #AIAgents#

大卒1270万人が就職難なのに､今度は自分の｢AI分身｣に仕事を奪われる…中国で始まった｢人間蒸留｣という絶望 #人間蒸留　##AI失業　# #人件費ゼロ社会　##フェイカホリック#

# AIエージェント開発の意思決定ポイント # トレース・サンプリング率｜Trace Sampling Rate 🎯 ポイント エージェントのトレース、全量記録していますか？それとも全く記録していませんか？ 「全量か無か」ではなく「何を全量にするか」が正しい問いです。AIエージェントの1リクエストは数千〜数万トークンのトレースデータを生成します。全量記録すると観測コストが爆発し、記録しなければ障害時に原因究明が不可能。条件付きサンプリングがこのジレンマを解決します。 📋 概要 トレース・サンプリング率は、エージェントの実行トレース（各LLM呼び出し、ツール実行、意思決定のステップごとの記録）をどの割合で収集・保存するかを制御するパラメータです。100%ならすべてのリクエストのトレースを記録し、1%なら100リクエストに1件だけ記録します。 AIエージェントのトレースは従来のWebサービスのログとは質的に異なります。プロンプト全文、出力全文、ツール引数・戻り値、中間的な推論ステップなどを含めると、1リクエストで数十KB〜数百KBのデータが生成されます。さらにLLMの出力は確率的なため、「同じ入力を再投入すれば再現できる」という前提が成り立ちません。 🔍 意思決定のポイント サンプリング率はaccountability（説明責任）とcost_sensitivity（コスト感度）のバランスで決まりますが、最も重要なのは条件付きサンプリングの設計です 🎯 一律の確率ではなく、リクエストの属性に応じて率を変えます。 判定基準の優先順位: 1. エラー/例外が発生したリクエスト → 100%記録（必須） 2. HITL（人間介在）が発生したリクエスト → 100%記録 3. 高リスク操作（副作用あり、不可逆）を含むリクエスト → 100%記録 4. レイテンシがP95を超えたリクエスト → 100%記録 5. コストが閾値を超えたリクエスト → 100%記録 6. 成功したリクエスト → 標本率で記録（1〜10%） 💡 要点と詳細 目安値 📊 - エラー/例外発生 → 100%。再現性のない障害のデバッグに不可欠 - HITL発生（人間承認/エスカレーション） → 100%。承認判断の妥当性を事後検証 - 高リスク操作（送金、データ削除等） → 100%。不可逆操作の監査に必須 - レイテンシP95超過 → 100%。性能劣化の根本原因分析に必要 - 成功かつ低リスク → 1〜10%。品質の統計的モニタリングに十分 - 開発・ステージング環境 → 100%。コストが問題にならない範囲で全量記録 トレースの粒度をサンプリング率とは別に制御するのも重要です 📦 全量記録するリクエストでも、プロンプト全文はコールド層に、メタデータ（モデル名、トークン数、レイテンシ、ステータス）はホット層に分離します。 ⚖️ トレードオフ サンプリング率が低すぎると、障害の再現が不可能になります 🔍 LLMの出力は確率的なため、同じプロンプトを再投入しても同じエラーが再現するとは限りません。品質劣化の見逃し、監査要件の不達成、コスト異常の遅延検知も深刻なリスクです。 サンプリング率が高すぎると、観測コストが本番のLLM呼び出しコストに匹敵するか上回ることがあります 💸 パフォーマンスへの影響、PII（個人情報）の拡散リスク、大量データ中の信号がノイズに埋もれる問題も発生します。 サンプリング率は運用開始後に段階的に下げてください。最初は高い率（50〜100%）で始め、安定性を確認してから成功リクエストの率を徐々に下げます。 🛠️ ユースケース サンプリング判定はリクエストの終了時に行うことも検討してください 🔄 head-based sampling（開始時に決定）は実装が簡単ですが、エラーが発生するかどうかは事前に分かりません。tail-based sampling（完了後に決定）なら結果に基づいて判定できます。ただし中間データを一時的にバッファする必要があります。 correlation ID（trace ID）の伝播を確実にしてください 🔗 マルチステップのエージェント実行では、最初のリクエストから最後のツール呼び出しまで一貫したtrace IDが紐づいていないと、部分的なトレースしか得られません。非同期処理やキューを介する場合にIDが途切れやすいので要注意です。 ホット/コールド分離と組み合わせるのが効率的です。サンプリングされたトレースはコールド層に全文を、それ以外はホット層にメタデータのみを記録する構成が実用的です。 #AIエージェント# #ソフトウェアアーキテクチャ#

AIに淘汰される事業は、M&Aの倍率もどんどんつきにくくなってきた。実はうちも元々、フリーランスのライターや編集者30万人のネットワークを作って記事作成代行をやってて、売上10億円規模まで育っていた。でも文章を書くってAIが激しく得意な領域だから、今その事業の売上は激減。買い手からしたら「5年後もこの売上ありますか?」に答えづらい事業は、当然評価しづらい。逆に人と人の間に入るM&A仲介みたいな仕事は、AIに代替されにくい。今の事業は5年後もあるのかを考えることは大切

AIちゃん、まじで生活豊かにしてくれててありがたいだが、まだまだ落とし穴がいっぱいあるなw 目下、ホルムズ危機がどうなるかってのは投資家の最大の関心事で、強い人の間でも意見が割れている。 それは当たり前なんだけど、 AIもつかってがっつり検証したけど、どう考えてもXXになる、って言っている人が両陣営でいる。 不確実性が大きい領域ではAI使った「検証」は自分のバイアスが強くなりすぎて、「検証」や「分析」になっていない可能性が高い。ここは本当に気をつけたほうがいい。 単に自分の信念（思い込み）を強化するだけになりうる。こみいった現実の問題を本当に検証するのはめちゃんこコストがかかり、いくらAIすごくても現実の問題をまともに検証するのは難しい。 わからないなりにも判断は必要なので苦しいが、日々、ファクトをアップデートしてできる範囲で考察続けるしかない。 ちなみに今はもろもろ考えてやや悲観寄りw