TL;DR: 「GUI操作」と「コーディング」を同時に鍛え・測れる、5プラットフォーム対応のエージェント評価環境が登場しました。トップモデルでも見た目の再現度と動作の厳密な正しさには大きな差があることが明らかになりました。
タイトル: RecreationWorld: Scalable and Verifiable Environments for Hybrid Computer-Use Agents
URL:
ポイント
🖥️ Ubuntu・macOS・Windows・Android・Webの5プラットフォームに対応
🔍 ソースを見せず動いているアプリを観察して一から再実装させる「再現」タスク
🧪 250タスクのRecreationBenchを構築、プログラム検証と視覚検証の両方で採点
📈 3.5万件の再現軌跡で学習したモデルは分布外ベンチマークで最大17.9ポイント改善
🏆 総合1位のGPT-6 Astraでもスコアは58.1%
⚠️ そのGPT-6 Astraでさえ全プログラムテスト通過はわずか2.8%
🔧 ElectronアプリをネイティブGTK/AppKitに置き換えるなど柔軟な実装も観測
見た目の再現力と本当の動作忠実性の間には、まだ大きなギャップがあることを突きつける研究です。
#
AIエージェント# #
ComputerUse#