プレーンなLLMが表形式データを扱うのが苦手なことについて調べた研究
特に大きく影響していたのは特徴量の列数だったそう
面白かったのはLLMが表をまったく読めないわけではなかったこと
2次元程度では距離ベースの分類器に近い予測ができ、指定された列を見つけてコピーする、みたいなこともできたらしい
一方で、複数の列を組み合わせて予測する必要があると、列数が増えるほど性能が低下するっぽい
もうツールを使うのが当たり前になっている領域だけど、素のLLMがどこで失敗するのかをきちんと分解して調べることは、ツールとの役割分担を考える上でも大事だと思った
もっと見る
Kimi K3のテクニカルレポート
ナナメ読みだが、CoTで各ターンの思考内容/ツール呼び出し/回答を分けて保持して、次のターンへそのまま引き継ぐ「Preserved Thinking History」が面白い
エージェントがなぜその行動を選んだか、まで状態として残せるイメージ？
もっと見る
