cv usk(@cv_usk):TL;DR ツール選択や文書検索のような「選ぶ・当てる」タスクに特化した決定ネイティブなモデル「Jeva」が登場しました。候補の並び順を変えても答えが一切ブレず、候補を使い回す設計でレイテンシを最大27.98倍削減しています。タイトル: Jeva: System One Models from First Principles URL: https://t.co/Hh96LAdj4h ポイント 🎯 ツール選択・インテント分類・文書検索など「型付き決定」に特化し、候補なし(Null)の判定も標準で扱う設計です 🔀 候補の並び替えで決定が変わる既存モデルの問題を解消し、順序を変えても決定フリップ率は完全に0%でした 📊 BANKING77で92.05%、Null検出のAUROCは98.66%と、比較対象を大きく上回る精度を達成しています ⚡ 候補の計算結果をキャッシュして再利用でき、全候補再利用時は最大27.98倍のレイテンシ削減(2,102ms→75.1ms)です 📈 候補数を32から2048まで増やしても精度69.88%を維持し、既存の再帰選択方式より2.3倍速く動作します 🧩 1つのアテンションブロックだけで、候補同士の相互関係を考慮した集合依存的な判定を実現していますツール呼び出しやRAGの候補選別のような地味だけど頻発するタスクに、キャッシュ前提で専用設計されたモデルが刺さりそうです。 #LLM #意思決定

2026.10.30 00:33

TL;DR ツール選択や文書検索のような「選ぶ・当てる」タスクに特化した決定ネイティブなモデル「Jeva」が登場しました。候補の並び順を変えても答えが一切ブレず、候補を使い回す設計でレイテンシを最大27.98倍削減しています。タイトル: Jeva: System One Models from First Principles URL: ポイント 🎯 ツール選択・インテント分類・文書検索など「型付き決定」に特化し、候補なし(Null)の判定も標準で扱う設計です 🔀 候補の並び替えで決定が変わる既存モデルの問題を解消し、順序を変えても決定フリップ率は完全に0%でした 📊 BANKING77で92.05%、Null検出のAUROCは98.66%と、比較対象を大きく上回る精度を達成しています ⚡ 候補の計算結果をキャッシュして再利用でき、全候補再利用時は最大27.98倍のレイテンシ削減(2,102ms→75.1ms)です 📈 候補数を32から2048まで増やしても精度69.88%を維持し、既存の再帰選択方式より2.3倍速く動作します 🧩 1つのアテンションブロックだけで、候補同士の相互関係を考慮した集合依存的な判定を実現していますツール呼び出しやRAGの候補選別のような地味だけど頻発するタスクに、キャッシュ前提で専用設計されたモデルが刺さりそうです。 #LLM# #意思決定#

Forward to community