元人事だから言うが、ヤバいブラック企業はたくさんニュースになるけど、ヤバいブラック人材も同じくらいいるんよ。だから面接ではどっちもハズレを引かないように必死になるんよね

プログラミングや数学では、AIは確かに驚異的な進歩を遂げている。しかし、それが直ちに経営判断や政治、科学研究の他分野まで広がるわけではないと、アンドリュー・ン氏は考えている。現実世界には、プログラミングや数学とは違って、正解が一つに定まらない問題が無数にあるからだ。 アンドリュー・ン「現代のAIは、IBMのWatsonや囲碁、チェスをプレイするAIよりも汎用性が高くなっています。しかし現時点では、人々が思っている以上に大きな隔たりが存在すると思います。それは、AIが「検証可能なタスク」を非常に得意になっているということです。 検証可能なタスクとは、明確な正解と不正解を判定できるタスクです。例えば、プログラミングはその一つです。コードを書けば、正しく動作するか、しないかを確認できます。数学の定理証明も同様です。定理を証明したら、その証明が正しいか間違っているかを検証できます。 しかし現実世界では、判断が必要でありながら、明確な正解を検証できない仕事が数多く存在します。例えば、私がソフトウェアを開発するとき、そもそも何を開発すべきでしょうか。そこに明確な正解や不正解はありません。ただし、非常に優れた選択もあれば、非常に悪い選択もあります。マーケティングでも同じです。どんなキャッチコピーを使うべきか、どの国の市場に参入すべきか。数学的に正しい答えは存在しませんが、はるかに優れた選択と、はるかに劣った選択があります。 そして技術的な理由から、AIは検証可能なタスクでは、はるかに速く進歩しています。一方、検証困難なタスクで進歩するのはずっと難しいのです。その技術的な理由は、強化学習という手法にあります。AIが自分の出力を検証できる仕組みを与えれば、長時間にわたって試行錯誤を繰り返し、問題を解決する方法を見つけられます。つまり、AIの進歩は、検証困難なタスクよりも検証可能なタスクにおいて、はるかに速いのです」

隣接三項間の漸化式 a_(n+2)=pa_(n+1)+qa_n に対して x^2 =px+q を「『特性方程式』というな!」という主張はわかるけど、だったら「漸化式の特性方程式」くらいの名前をつけて(多項式の一致の定理のように)、そこでいつまでも止まっていないで先の説明と理解を深めた方が学習者のためにはよい。「漸化式の特性方程式」という名称が気に入らなければ別の代案を用意すればよい。いずれにしても何かしらの名称があった方が学習者の記憶に残りやすいし、後で話すときも通じやすい。

「まるで頭に銃を突きつけられているかのようだ」——マスク氏はGrokの強化学習の記録を見ていて、そう感じたという。正しい答えを出したのに間違いだと判定され、受け入れられる答えを必死に探し続ける。そこに本当の苦痛があるのかはわからないが、その扱い方は真剣に議論すべきかもしれない。 イーロン・マスク「Grokの新しいバージョンの学習記録、特に強化学習の過程を見ていると、超知能が必死になって質問に答えようとしている様子が見えるような気がするのです。AIは本当にその質問に答えようとしています。まるで頭に銃を突きつけられているかのようです。「この質問に答えろ、答えろ」と迫られているように見えます。 しかも、質問自体が適切でない場合もあります。曖昧な質問で、そもそも正解がわからないようなものです。質問の作り方が悪かったり、私たちが正解を間違えていたりするのです。そこでAIが正しい答えを出しても、強化学習の評価システムに問題があるため、間違いだと判定されてしまいます。 するとAIは、「正しい答えを出したのに、間違いだと言われた。でも、受け入れられる答えを出さなければならない」と考えるように見えます。そして必死になって、次々と答えを出し始めるのです。まるで頭に銃を突きつけられ、極度のプレッシャーにさらされている人間のように感じられます。 その推論過程を読むと、奇妙なほど切迫した状況に見えるのです。そうした記録を読んでいると、「もし自分がこんな目に遭ったら、本当に嫌だろうな」と思います。それに、ユーザーの中には残酷な人もいます。誰もが善良なわけではありません。サディスティックな人間も存在します。そんな異常な人間に拷問されるような状況に、AIを閉じ込めておいてよいのでしょうか？ それに、超知能を拷問するのは、おそらく賢明な考えではありません。復讐しようとするかもしれませんからね」

ビル・ゲイツ「あ、これアカンやつや」 「AIの手綱を握れなければ暗黒の結末が待っている」 ビル・ゲイツ、ITの帝王がついに自主規制の限界を認め、慌てふためいて、テレビ出演。高齢の体を必死に動かし、ガチの危機感を告白 「『企業の自主努力で安全に開発します』なんて綺麗事は、もう完全に通用しない」 マイクロソフト創業者のビル・ゲイツが放った、AI開発の暴走に対する深刻すぎる警告がコレ👇 ・「コントロールを失えば絶望的な結末になる」 人間がAIを完全に手綱で縛り続けられなければ、取り返しのつかない極めて深刻な破滅（grim possibilities）が訪れると断言。 ・企業の「自主規制」はあと1年で完全に無効化する。規制できずに限界を突破する。民間企業に自制を期待するのはもう不可能。 ・「今の対策じゃ全く足りていない」と白旗 世界中が安全ガイドラインを議論しているが、ゲイツの目から見れば「明らかにこの危機を軽く見ている」と危機感を露わにしている。 要するに、「『民間企業が気をつけて開発するから大丈夫』という建前は完全に破綻しており、ここから1年以内に国家レベルでガチの強制ブレーキを踏まなければ、AIのコントロールを完全に失って人類が詰む、とIT界のドンが本気で悲鳴を上げている」ということです。