アンソロピックを退職した ジェイコブ・コクソン氏が、 メディアに出まくって AIの危険性に警鐘を鳴らしている。 👇 これ、単に「AIに仕事を奪われる」 という話ではない。 彼が懸念しているのは、 AIがさらに賢いAIを開発し、 その連鎖が加速したとき、 人間が制御しきれなくなる可能性。 しかも彼は、 OpenAIとAnthropicの 両方で研究していた人物。 開発現場を知る側からの 警告という点は、軽く扱えない。 競合より先に、もっと強いAIを出す。 その競争の中で、 安全性が置き去りにならないか。 彼はこの構造を問題視していて、 現役のAnthropic研究者からも 賛同の声が上がっている。 もちろん、これは「人類滅亡が確定した」という話ではない。将来のリスクに対する警告であり、Anthropic側も安全性研究や業界の協調が重要だと説明している。 だからこそ、 「AIは危険だから使わない」 「便利だから全部任せる」 の二択で考えるべきではないと思う。 何を任せて、何を人間が検証するのか。 どこまで権限を与え、問題が起きたらどう止めるのか。 そして、開発競争そのものをどう管理するのか。 「何ができるようになったか」と同じくらい、 「安全に任せられるのか」を問う必要がある。 AIを使いこなすことと、AIを無条件に信用することは、まったく別。