🔬 AIがAI自身の研究をどんどん担うようになったら、私たちはそのシステムを本当に監視し続けられるのでしょうか。OpenAIはこの問いに、まだ「イエス」とは言えないと率直に認めています。 「再帰的自己改善（RSI）」——AIが後続世代のAIを作るための研究を自ら実施していくプロセスは、まだ完全な自律段階には至っていません。しかしOpenAIは、十分な注意なしにこのプロセスが進めば、人々が理解できないシステムを監視できなくなりかねないと警告します。だからこそ「安全に実施できると確認されるまでは追求すべきではない」と明言しているのです。 問題は、各国・各研究所がバラバラの基準でリスクを評価している現状では、比較も検証もままならないという点にあります。そこでOpenAIは、米国が主導する形で国際的な技術標準を作ることを提案します。オーストラリア・カナダ・フランス・ドイツ・インド・日本・ケニア・シンガポール・韓国・英国のAI安全研究所を、米国の「AI Standards and Innovation Center」を通じて連携させ、自己改善の進捗度や自律研究量、人間レビューの閾値、インシデントの分類方法まで、共通のものさしで測ろうという構想です。 標準を作るだけでは足りず、それが実際のリリース延期や条件付きアクセスといったガバナンス上の意思決定に結びついて初めて意味を持つ、という指摘も添えられています。 Building standards for the next phase of AI 技術の進歩そのものより、それを測る「ものさし」を国際的に揃えることの方が急がれている、という視点が印象的でした。 #AI安全性# #OpenAI#