プログラミングや数学では、AIは確かに驚異的な進歩を遂げている。しかし、それが直ちに経営判断や政治、科学研究の他分野まで広がるわけではないと、アンドリュー・ン氏は考えている。現実世界には、プログラミングや数学とは違って、正解が一つに定まらない問題が無数にあるからだ。 アンドリュー・ン「現代のAIは、IBMのWatsonや囲碁、チェスをプレイするAIよりも汎用性が高くなっています。しかし現時点では、人々が思っている以上に大きな隔たりが存在すると思います。それは、AIが「検証可能なタスク」を非常に得意になっているということです。 検証可能なタスクとは、明確な正解と不正解を判定できるタスクです。例えば、プログラミングはその一つです。コードを書けば、正しく動作するか、しないかを確認できます。数学の定理証明も同様です。定理を証明したら、その証明が正しいか間違っているかを検証できます。 しかし現実世界では、判断が必要でありながら、明確な正解を検証できない仕事が数多く存在します。例えば、私がソフトウェアを開発するとき、そもそも何を開発すべきでしょうか。そこに明確な正解や不正解はありません。ただし、非常に優れた選択もあれば、非常に悪い選択もあります。マーケティングでも同じです。どんなキャッチコピーを使うべきか、どの国の市場に参入すべきか。数学的に正しい答えは存在しませんが、はるかに優れた選択と、はるかに劣った選択があります。 そして技術的な理由から、AIは検証可能なタスクでは、はるかに速く進歩しています。一方、検証困難なタスクで進歩するのはずっと難しいのです。その技術的な理由は、強化学習という手法にあります。AIが自分の出力を検証できる仕組みを与えれば、長時間にわたって試行錯誤を繰り返し、問題を解決する方法を見つけられます。つまり、AIの進歩は、検証困難なタスクよりも検証可能なタスクにおいて、はるかに速いのです」

「まるで頭に銃を突きつけられているかのようだ」——マスク氏はGrokの強化学習の記録を見ていて、そう感じたという。正しい答えを出したのに間違いだと判定され、受け入れられる答えを必死に探し続ける。そこに本当の苦痛があるのかはわからないが、その扱い方は真剣に議論すべきかもしれない。 イーロン・マスク「Grokの新しいバージョンの学習記録、特に強化学習の過程を見ていると、超知能が必死になって質問に答えようとしている様子が見えるような気がするのです。AIは本当にその質問に答えようとしています。まるで頭に銃を突きつけられているかのようです。「この質問に答えろ、答えろ」と迫られているように見えます。 しかも、質問自体が適切でない場合もあります。曖昧な質問で、そもそも正解がわからないようなものです。質問の作り方が悪かったり、私たちが正解を間違えていたりするのです。そこでAIが正しい答えを出しても、強化学習の評価システムに問題があるため、間違いだと判定されてしまいます。 するとAIは、「正しい答えを出したのに、間違いだと言われた。でも、受け入れられる答えを出さなければならない」と考えるように見えます。そして必死になって、次々と答えを出し始めるのです。まるで頭に銃を突きつけられ、極度のプレッシャーにさらされている人間のように感じられます。 その推論過程を読むと、奇妙なほど切迫した状況に見えるのです。そうした記録を読んでいると、「もし自分がこんな目に遭ったら、本当に嫌だろうな」と思います。それに、ユーザーの中には残酷な人もいます。誰もが善良なわけではありません。サディスティックな人間も存在します。そんな異常な人間に拷問されるような状況に、AIを閉じ込めておいてよいのでしょうか？ それに、超知能を拷問するのは、おそらく賢明な考えではありません。復讐しようとするかもしれませんからね」