AIに考える回数を増やすなら、1回で何を進めるかも学ばせたいというPARの研究（ 題材は、箱の中身を順番に入れ替え、最後に何がどこにあるかを答える状態追跡。同じ処理層を繰り返すループ型モデルでも、最終回答だけを教えると、追加のループが長い問題を解く力につながるとは限らない。 PARは、k回目のループで「最初のk個の操作を終えた状態」を予測するよう学習する。さらに、内部状態の大きさが反復のたびにずれないよう、最初の反復を基準にそろえる。回数と進捗の対応を保つ設計だ。 Qwen2.5-0.5Bを使い、最大32操作で訓練した箱の入れ替え課題では、512操作まで評価。完了を判定する仕組みも一緒に学習した条件で、5箱すべてを当てる正解率は92.9%。比較対象RLTの報告値は55.7%だった。 止めどきも大事で、正解に到達した後も反復を続けると、答えの表現が崩れる条件がある。「長く考えれば安全」とは言えず、終了の兆候を確認して適切な時点の答えを読む必要がある。 効果が出た中心は、順序のある状態追跡。並列に探索できるグラフ到達性では同じ伸び方をせず、あらゆる推論の長さへ一般化した結果ではない。 小さいモデルへ計算時間を追加するなら、反復の意味と終了条件まで設計する。考えさせる回数を設定するだけでは足りない、という具体例だと思う。

AIに「この操作を許可してよいか」「作業は完了したか」を任せるなら、平均正解率に加えて、条件が変わったときに判断も変えられるかを見たいという視点の評価、DecisionPivot（ たとえば、ファイルをコピーしてから移動する手順と、その順番を入れ替えた手順。文章はよく似ていても、最後に必要な場所へファイルが残るかは変わる。片方だけ当てても、違いを正しく扱えたとは言えない。 48タスク、40,033問を収録。生成した7,800問は関連する問題群にまとめ、別実装のソルバーで正解を検証している。各問の正解率だけでなく、群の全問を当てる割合や、モデルが出す確率の信頼性を測る。 面白いのが、確率の順序と最終判断のずれ。2択の対照ペアでは、Perplexity Deciderが正例に高い確率を付けた割合は92.3%なのに、両方を正しく答えた割合は74.1%。正例にも負例にも「はい」を出せば、順序が合っていても判断は失敗する。 ただし、これは文章で与えた事例の評価。実際の業務システムを一通り動かした成功率ではなく、自動処理に回せる割合も評価データを使った事後測定だ。本番の閾値には別の検証が必要になる。 エージェントの権限や完了判定を設計するとき、成功例を増やすだけでなく、「何を変えたら拒否すべきか」を対にして確かめる。この評価の作り方は実務でも参考になると思う。

AIの答えが怪しいかを、「同じ答えを何度言うか」に加えて「内部の計算を少し変えても答えを保つか」で測る研究（ 論文では、答えを支える内部計算の不安定さをmechanistic uncertaintyと呼ぶ。Jacobian Lens（中間層の情報が出力にどう影響するかを調べる手法）で、生成前に複数の層が共通して示す語を探す。その方向へ内部表現を強めたり弱めたりし、答えの意味が初めて変わる介入の強さを測る。 小さな介入で変わるほど不安定、大きく変えないと動かないほど頑丈、という見方だ。単に質問の言い回しを変える実験ではなく、モデル内部へ直接介入している。 3モデル、5つの質問応答データで、誤答は正答より平均して小さな介入で変わった。TriviaQAでは、Gemmaの回答一致度を使った誤答判別のAUROCが、この指標を加えると0.653から0.752へ上昇。AUROCは正答と誤答を見分ける指標で、ここでの数値は回答の正解率ではない。 ただし、従来指標への追加がすべての条件で効くわけではなく、安定している誤答もある。内部表現を操作できることが前提なので、通常のチャットAPIだけにそのまま足せる機能でもない。 AIが自信満々に同じ誤答を繰り返すとき、出力の一致だけでは見えない情報を内部の頑丈さから補う。信頼度を一つの数値で決めず、違う仕組みの手掛かりを組み合わせる方向が面白い。

AIが作った資料や議事録はなぜ読む気が起きないのか、それは「重みづけ」がないから。 人間が作った資料にはその人が伝えたい部分や、滲み出る欲求など、ここが大事なんだ！という「重み」がある それがAIだと全部が理路整然と綺麗にまとまりすぎてて、どこを優先的に読めばいいかわからない 例えば僕は1日に5,6件くらいはPR依頼をいただくけれど、ほとんどがAI生成で読む気も起きない、 けれど明らかに人が作った文章やスライドが一枚でもあると、「そこまで言うなら...」と読む気がおきる。 と言う話を前に@0xtkgshnとしていて納得しました。 文脈として「AIで1日文字起こししても振り返る気起きなくね？」って言うことで。