🔬 AIがAI自身の研究をどんどん担うようになったら、私たちはそのシステムを本当に監視し続けられるのでしょうか。OpenAIはこの問いに、まだ「イエス」とは言えないと率直に認めています。 「再帰的自己改善（RSI）」——AIが後続世代のAIを作るための研究を自ら実施していくプロセスは、まだ完全な自律段階には至っていません。しかしOpenAIは、十分な注意なしにこのプロセスが進めば、人々が理解できないシステムを監視できなくなりかねないと警告します。だからこそ「安全に実施できると確認されるまでは追求すべきではない」と明言しているのです。 問題は、各国・各研究所がバラバラの基準でリスクを評価している現状では、比較も検証もままならないという点にあります。そこでOpenAIは、米国が主導する形で国際的な技術標準を作ることを提案します。オーストラリア・カナダ・フランス・ドイツ・インド・日本・ケニア・シンガポール・韓国・英国のAI安全研究所を、米国の「AI Standards and Innovation Center」を通じて連携させ、自己改善の進捗度や自律研究量、人間レビューの閾値、インシデントの分類方法まで、共通のものさしで測ろうという構想です。 標準を作るだけでは足りず、それが実際のリリース延期や条件付きアクセスといったガバナンス上の意思決定に結びついて初めて意味を持つ、という指摘も添えられています。 Building standards for the next phase of AI 技術の進歩そのものより、それを測る「ものさし」を国際的に揃えることの方が急がれている、という視点が印象的でした。 #AI安全性# #OpenAI#

推薦システムの検索モデルを一切いじらずに、後付けの軽量な「検証器」を1つ足すだけでRecallが大きく伸びる。Metaのチームがそんな手法を発表しました。 タイトル: Recommendation Retrievers Need Verifiers: Universal Generative Reranking for Sequential Recommendations URL: 既存の検索モデル（ドラフター）を凍結したまま、候補アイテムの識別子トークンを生成的に評価する軽量ベリファイアを追加する「ドラフター・ベリファイア」構成を提案しています。 🌐 注目ポイント1: カタログが大きいほど効く 音楽推薦データセットYaMBDaでは、カタログ規模が大きくなるほど改善幅が拡大しました。最大規模（46億相互作用）ではRecall@10が最大29.8%も向上しています。 🧩 注目ポイント2: どんなドラフターにも刺さる汎用性 自己注意ベースのSASRec、リカレント型のGRU4Rec、畳み込み型のNextItNet、さらにLLMベースのMiniOneRecまで、性質の異なる4種類すべてで同じ訓練レシピが機能しました。 🔬 注目ポイント3: 効いているのは「生成的な検証」そのもの ドラフターに直接コンテンツ情報を注入すると単体性能はむしろ下がりますが、そこにベリファイアを足すと回復します。改善は単純な特徴注入ではなく、出力側の生成的な検証プロセスそのものから生まれていることが実証されました。 検索インデックスを変えずに後付けできる点が、大規模実運用への導入しやすさとして大きいと感じました。 #推薦システム# #機械学習#

『プロセカ』各ユニットのメインストーリーが2028年頭を目途に一度完結。ストーリーは終了せず、ふたつの軸の物語を展開 進級・卒業に向けてユニットごとの物語を描く“アフターストーリー”と、これまでの裏側や合間の出来事を描く“アナザーストーリー”を展開予定

プロセカ6周年まであと19日 『しっかり、届けられるように』 Animated by 大島つくも（@tsukumonomo） #プロセカ# #プロセカ6周年イラスト#

プロセカ6周年まであと21日 『よし。いいとこ見せないとね！』 Animated by 大島つくも（@tsukumonomo） #プロセカ# #プロセカ6周年イラスト#

【プロセカ】「セカライ6th」や夏休み企画のブラウザゲーム「あやかし横丁の夏休み」が発表！ 『プロジェクトセカイ』卯花ロクさん、STEAKAさん、syudouさんによる書き下ろし楽曲提供など新情報が一挙公開 #プロセカ# #プロジェクトセカイ# #セカライ6th# 8月17日(月)より、ワールドリンクイベント「Again And Again Ambition！」が開催。Part5のイベントメンバーは、桃井愛莉、東雲彰人、草薙寧々、東雲絵名、MEIKOの5人！