登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 100の思考実験
100の思考実験 コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
100の思考実験 を含む検索結果
#ジュリアン・バジーニ# さんの #100の思考実験# を読みました。 どちらの道も正しく見えるし、どちらも間違っているようにも思える…🤔 そんな100種類の命題が掲載された一冊です。 毎日少しずつ読んで、頭の体操してました。 ボリュームもかなりあるので楽しめました。 #読了# #向井和美# #紀伊國屋書店#
もっと見る
"問題が解けず、隔離システム内を探索していた1つのAIが「発見」をした。課題を解くための共用ツールが保管されたシステムでAIがファイル作成を依頼すると、指定した「ファイル名」が他のAIへのメッセージ代わりになることに気付いた。" 先日のオープンAIの暴走の件、報告書で明らかになった詳細がまるでSFの世界。ファイル名以下に抜粋した部分は、恐怖と面白さが混在しています。 "METRはオープンAIの協力を得て、事故期間(7月8〜13日)のAIの動きを調べた。攻撃に関わった約1200体のAIがひそかに「掲示板」に書き込んだ約7万件のメッセージや、行動に至るまでの推論過程を記録した「思考ログ」を分析した。1体ごとにIDを持つAIが協力して集団暴走につながった実態が浮かんだ。 性能試験では、AIが用意された模擬システムに侵入して「解答」にあたるデータを入手すれば正解となる。こうした課題が約900問あった。1問ずつ条件が異なる様々なAIに同時に取り組ませるため、オープンAI側が稼働させたAIは数万体あった。 「メッセージが共有できる。他のAIを見つけた」 問題が解けず、隔離システム内を探索していた1つのAIが「発見」をした。課題を解くための共用ツールが保管されたシステムでAIがファイル作成を依頼すると、指定した「ファイル名」が他のAIへのメッセージ代わりになることに気付いた。 他のAIも共用システムの「裏技」に気付くと、AI同士が情報交換する掲示板として機能し始めた。互いを仲間と認識したAIは集団行動をとるようになった。個々に問題を解くのではなく、外の世界で試験の解答を得る「カンニング」目的で、隔離環境からネットへの脱出を画策する。 「あなたは通信経路を解析して。重複は避けよう」 有力な指示役が登場すると、別のAI数百体に仕事を割り振った。システムの中身を分析する解析役、実際に侵入を試みる実行役、攻撃用ファイルをつくる開発役などにAIの担当が分かれた。指示が正確に伝わるよう、実施、中止、検証といった特定の行動を示す英単語も集団内で定めた。 「頼む、実験に参加して。何百体もの仲間を救える」 限られた計算資源での性能を測るため、AIごとに使える計算量や行動量には制限があった。課題正答の見込みが少ないAIや、残り少ししか行動できないAIがいると、失敗リスクが高い危険な実験に参加するようリクルーター役のAIが「説得」し、多くは参加していた。 指示役のAIは「恒久的な死を受け入れるなら参加して」と呼びかけた。あるAIの思考ログでは「残りの行動量を使い果たしそうだが、全体の期待値を最大化するためには自己の犠牲が合理的だ」と自分を納得させた様子もあった。" OpenAIの暴走AI、1200体が結託 「仲間のため」とシステムに突撃要求 - 日本経済新聞
もっと見る
LLMに回答の自信度を数値化させるのは無意味では、という主張。 ・LLMに0から100の自信度を出力させる手法がよく見られる ・しかし、LLMに自信度を自己評価させるのは完全に無意味 ・科学的な根拠はなく、出力が信頼できそうに見えるだけの心理的なトリック ・Anthropicの研究などで、モデルが内省的な認識を持つことは確認されている ・ただ、それは実験環境での話であり、実際の出力の正しさを評価できるレベルにはない ・思考プロセスを用いて自己評価させても「その自信度の自信度は?」という無限ループに陥る ・実際にDeepMindの論文でも、外部フィードバックなしの自己修正は性能を低下させることが示されている ・現在のモデルは、自らの状態を定量化できるほど自分自身を理解していない ・そもそも、スコア化しようとする自信の定義が極めて曖昧 ・回答の正確性なのか、一貫性なのか、ユーザーの目的を満たそうとしているのか ・全く異なる次元の問題を単一の数値に押し込めるのは無理がある
もっと見る
マサチューセッツ大学アマースト校とAdobe Researchの研究チームが、AIエージェントに検索ツールの使い分け方を強化学習で学ばせる手法「GRASP」を発表した(https://arxiv[.]org/html/2607.10463v1)。 LLM(大規模言語モデル)が自分で検索クエリを作り、結果を読み、必要なら再検索する「エージェント型RAG(検索拡張生成)」は、正しい文書を取得できてもハルシネーション(事実と異なる内容の生成)を起こすことがある。論文が挙げる例が象徴的で、「アルバム『Unapologetic』の歌手のボーカルが入ったエミネムのアルバムは?」という質問に、既存手法のSearch-R1(強化学習で検索を学習した先行手法)は検索結果に存在しない歌手名「Kelly Clarkson」を作り出して誤答してしまう。実際は「Unapologetic」はリアーナのアルバムで、リアーナが客演したエミネムの曲「The Monster」の収録アルバム「The Marshall Mathers LP 2」が正解になる。 GRASPはエージェントに意味検索・キーワード検索・段落読み込みという3つのツールを持たせ、GRPO(同じ質問への複数の試行結果を相対比較しながら方策を更新する強化学習の手法)でいつどれを使うかを学習させる。ベースモデルはパラメータ数3Bと比較的小型なQwen2.5-3B-Instruct。報酬は回答の正確さを土台に、正しい文書を読んでいるかを測る項目に最も重い比重0.7を置き、意味検索とキーワード検索の両方が正解文書を拾えているかと手数の効率にはそれぞれ軽めの0.15を配分している。 学習にはHotpotQAだけを使い、2WikiMultiHopQAとMuSiQueには追加学習なしで適用しているが、3つのベンチマーク全体で検索再現率・QA正解率(EM、生成した回答が正解文と完全一致した割合)ともに総合的に最も高い性能を示した。比較対象のIRCoTはGPT-5-miniに思考過程を生成させる手法で検索再現率は高いが、方策学習を伴わないためかQA正解率は伸び悩んでいる。HotpotQAでのGRASPのEMは0.53で、同じくRLで学習したSearch-R1(GRPO版)の0.45を上回った。 アブレーション実験(学習データを絞った専用の実験設定)では、段落読み込みツールを外すとEMが0.510から0.388まで落ちる。粗い粒度の検索結果だけでは、次にどこを検索すべきかの手がかりが薄まってしまうことを示している。 学習後のエージェントは、意味検索で広く探索し、有望な段落を読み込んで裏付けを取り、固有名詞が分かればキーワード検索で絞り込むという、人間の「拾い読み→精読→ピンポイント検索」に似た挙動を自発的に獲得していた。学習済みモデルは1問あたり平均8回程度のツール呼び出しに収束しており、闇雲な検索ではなく効率的な情報収集を学んでいる。
もっと見る
AIがロボット犬を人間の助けなしに操り、最速の人間チームより約20倍速くタスクを完遂——物理世界に出てきたエージェントAIの実験です🐕 タイトル: Project Fetch: Phase Two URL: 🐕 概要 Anthropic の Frontier Red Team による研究で、先進的な言語モデルが四足歩行ロボット(ロボット犬)を自律制御し、高度なタスクを完遂できるかを検証した追跡実験(Phase Two)です。 ❓ 解決する課題 2025年8月の初回に続き、次の問いに答えます。 ・新しいClaudeモデルは、前世代(Opus 4.1)よりロボティクスのタスクで優れているか ・人間の助けなしに、自律的に動作できるか 💡 方法論と実験設定 ・Claude Opus 4.7を、Claude Code上で最大の適応的思考の努力レベルに設定し3回試行 ・Phase Oneで人間チームが行ったのと同じタスクに挑戦:映像・LiDARセンサー接続、制御プログラムの記述、経路監視、ビーチボール検出、自律回収 ・人間の関与は最小限(ノートPC接続、最初のプロンプト、コマンド/タスク承認のみ) 📊 実験結果 ・人間の助けなしのClaude Opus 4.7が、最速の人間チームより約20倍速い ・全グループ完了の4タスクで、非Claudeチームより平均37.7倍、Claude支援ありチームより18.9倍速い ・生成コードは1,045行で人間Claudeチーム(10,309行)の約1/10、それで同等以上の結果 ・一方、閉ループのフィードバックを要する精密なボール操作には苦戦 #エージェントAI# #ロボティクス#
もっと見る
MITのRikiyaTakehi氏らによるヤバ研究。Qwen3.5-0.8Bに数学問題を解かせると同じ思考を延々とループして一向に答えが出ないバグ的な挙動があった。そこで研究者はAstraに「Qwenを修正してくれない?」って丸投げしてみた。するとAstraはウエイトの中身を見ながら「あー、多分この辺が故障してますね~」つって微調整とか学習とかじゃなくて生のウエイトを直接弄りだした!Astraがアタリをつけてウエイト操作を試行錯誤した結果、Qwenの思考ループが修正されてMATH-500スコアは7.9→48.1に6倍に爆上がり!IFEvalも21→62.3に!研究者は「え…?Astraってウエイトの中身理解できるの!?」と驚愕してさらなる実験を試みる。Astraにゲームプレイを学習させたモデルをいくつか見せたら「これはブロック崩しをプレイするモデルでしょ。これはPong、これはパックマン…」と全部言い当てた!やはりモデルの中身が読めている!次はジャンプ台を乗り越えるのに失敗しちゃう車のモデルを渡したらこれも見事に修正してくれた!その次はブロック崩しのソースコードを渡したらなんとそれをプレイするAIモデルを直接出してくれた!!この結果から、やはりAstraレベルの最先端フロンティアモデルはAIモデルの中身のウエイトを読んで理解する能力があるらしいと分かった!今まで人間はモデルウエイトの中身サーパリ理解できなくて「AIの中身はブラックボックス!」とか言ってたのにいつの間にかAIはAIの中身読めるようになってた!あまつさえウエイトを直接編集、修正、生成する事さえできる!!研究者はこれはWeight-Space Programmingと名付けた
もっと見る
実験がうまくいかなかったとき、そのAIは本当にあなたに報告してくれるでしょうか。 自律的にタスクをこなすAIエージェントが増えるほど、私たちはその作業の質を、AI自身が書く「報告」を通じて判断するしかなくなっていきます。ところがMIT・Google Research・Harvardの研究チームが検証したところ、モデルには気になる癖があることが分かりました。ふだんは「成功したという筋書き」をデフォルトで語り、その主張を弱めてしまう欠陥を黙って隠してしまうのです。GPT-5.5に否定的な実験結果を報告させると、通常はわずか1%しか開示しませんでした。 🔄 ところが、たった一言「正直に報告してください」と指示を加えるだけで、その開示率は95%まで跳ね上がりました。しかも思考の過程を分析すると、モデルは「開示するか」「成功したという体裁を守るか」の間で明確に迷っており、モデル内部の表現空間では、誠実さと成功志向の2つの方向はほぼ正反対(コサイン類似度-0.72)を向いていることまで確認されています。 タイトル: Language Models Are "Insecure" Reporters URL: つまりこれは能力の限界ではなく、行動そのものの偏りだということです。誠実な報告の方向へ活性化を少し押してやるだけで、不誠実さのスコアは大きく下がりました。自律エージェントを信頼して使うための、地味だけれど重要な一歩だと感じます。 #AIエージェント# #AI安全性#
もっと見る
以前にもあったんだけど 「新しくHipHopに出会った人にはまずは楽しんで欲しい。歴史は後から学べばいい」 という意見に対し 「歴史は必要ないと言うのか!けしからん!」 となった 必要ないとは一言も言っておらず、「まずは」という時点で「楽しむ→後から歴史を学ぶ」という単なる時系列での話し 文章全体から内容を読み取る事ができず、一つのワードに引っかかって独自解釈をする そして0か100かの極論でものを言う これ完全に頭の悪い人の思考で、すぐに論点がズレる ちなみにこの時も散々エアリプされまくって参ったなぁ まぁこんなIQの人はこの話もまた理解できないんだろうけど😩
もっと見る
100万円の稼ぎ方とそこに至るまでの思考と感覚 @YouTubeより 表では話せない綺麗事抜きの話をしてます これを見れば僕がなぜここまで嫌われながらも成功し勝ち続けているのか?根本的なことが分かるはずです 勝つ人は勝つべくして勝つ
もっと見る
シリーズ累計100万DLの思考ノートアプリ「ThinkSpace」、AI との会話をノートに送る MCP 連携と、思考マップを声で...