🧵 AIにじっくり考えさせようとすると、考えれば考えるほど1トークンあたりのコストが膨らんでいく。この地味だけど本質的な壁に、ある発見から挑んだ研究があります。 きっかけはシンプルな観察でした。「42+84=126」のような計算ステップは、答えが出た瞬間にその過程はもう要らなくなる。長い推論のなかで本当に重要なのは、最初のタスク指示（プリフィックス）と、いま進行中の直近の思考だけではないか——著者らはそう考えました。 そこで提案されたのがPrefix Sliding。プリフィックスと直近k個のトークンだけをスライディングウィンドウとしてメモリに保持し、それ以外は捨ててしまうというシンプルな発想です。これにより1トークンあたりの生成コストが、どれだけ長く考えても一定に保たれるようになります。 結果は明快でした。追加学習なしで既存モデルを約3倍高速化し、さらに強化学習と組み合わせることで、これまで事実上不可能だった10万トークンを超える推論トレースへのスケーリングを実現しています。「長く考えるほどコストが増える」という当たり前を覆した点が、この研究の核心です。 タイトル: Prefix Sliding for efficient test-time scaling URL: #LLM# #テスト時間スケーリング#

【メンテナンス延長のお知らせ】 本日17:00メンテナンス終了を予定しておりましたが、一部コンテンツのテストに時間を要しているため、終了予定時刻を17:30まで延長いたします。 メンテナンス終了まで今しばらくお待ちいただけますと幸いです。 #THE_CHASER#

# ADK 2.0の便利だけど知られていない機能 🌍 数分〜数時間かかる処理をエージェントのツールとして扱いたい場合、どうすればよいでしょうか？ ADK 2.0の `LongRunningFunctionTool` は、長時間実行されるタスクのオーケストレーションを管理するための専用クラスです。実際の重い処理は別サーバーで実行しつつ、エージェント側では進捗管理と状態遷移を制御できます。 📌 タイトル：Long Running Function ツール 🔗 URL： 🧩 概要 `LongRunningFunctionTool` は、長時間かかるタスクをエージェントワークフローに統合するためのクラスです。処理は4つのフェーズで進行します。開始フェーズでタスクを発行し、初期更新フェーズで進捗を通知し、続行/待機フェーズでクライアントが次のアクションを判断し、フレームワーク処理フェーズでエージェントランナーが一時停止を管理します。重要なのは、このクラスはオーケストレーションを管理するものであり、実際の長時間タスクの実行自体は行わないという点です。 🛠 使い方 ツール関数はステータスとチケットIDを含む辞書を返し、フレームワークがその状態を管理します。 ```python from adk import LongRunningFunctionTool def start_training(model_name: str, dataset: str) -> dict: """モデルトレーニングを開始する""" # 外部サーバーにリクエストを送信 ticket_id = external_api.start_job(model_name, dataset) return { "status": "in_progress", "ticket_id": ticket_id, "message": "トレーニングを開始しました" } tool = LongRunningFunctionTool(func=start_training) ``` エージェントランナーは返された状態に基づいて実行を一時停止し、クライアントが「続行」か「待機」かを決定します。実際の計算処理は別サーバーで行い、ツール関数はその進捗確認と状態報告のみを担当します。 🏗 本番システムへの組み込み方 ・実際の重い計算処理は専用のコンピュートサーバーで実行し、ツール関数はAPIコールのみ行う ・チケットIDを使った進捗追跡の仕組みを構築し、ポーリングまたはWebhookで状態を更新する ・タイムアウトとエラーハンドリングを適切に設定し、タスクの失敗を検知できるようにする ・クライアント側で待機/続行の判断ロジックを実装し、ユーザー体験を損なわないようにする 💡 ユースケース 🤖 機械学習モデルのトレーニングジョブの管理と進捗追跡 🎬 動画エンコードやレンダリングなど時間のかかるメディア処理 📦 大規模データのETLパイプラインの実行管理 🧪 長時間かかるテストスイートやベンチマークの実行と結果取得 ⚠️ 注意点 `LongRunningFunctionTool` はオーケストレーション（状態管理と進捗追跡）を管理するものであり、実際の長時間タスクを実行するものではありません。重い処理は必ず別のサーバーやサービスで実行してください。また、セッションの有効期限やメモリ管理にも注意が必要です。長時間のタスクではセッションが切断されるリスクがあるため、状態の永続化を検討してください。 ✨ 長時間タスクをエージェントワークフローにシームレスに統合できるこの機能は、実用的なAIシステム構築において非常に強力です。計算処理とオーケストレーションの責務を明確に分離しましょう。 #ADK# #AIAgent#

テスト後は点数だけで終わらせないのが大事です。落とした原因を、知識不足・時間不足・読み違い・雑さの4つくらいに分けて見るだけで、次の一週間の勉強が変わります。同じ10点でも直し方は別物です。反省会より先に、原因の見取り図を作るのがおすすめです。

とりまテスト。これ作るだけで何時間もかかってるんだぜ？(´；ω；｀) 尻がなんとか出来てきた。けど良くなったのかどうかは正直わかんね。

テストテストー(=・ω・）ノ 通常時のパンツが取り敢えず出来たので、一時間で作ってみた。パンツと新しい動画投稿のテスト。 どちらの尻がお好み？