Anthropicのダリオ・アモデイが「最先端AIの開発ペースを減速させろ」と訴えると、ライバルであるOpenAIのサム・アルトマンやxAIのイーロン・マスクまでがこぞって賛同した。(おかげでソフトバンク暴落や)
なぜか?
AIのIQ的知能は、すでに人間の最高知性が束になっても届かなかった領域に達している。
数学のミレニアム懸賞問題という人類史上の天才たちが跳ね返され続けた未解決問題を100時間で解けるレベルだ。
一方で、社会的な知能は驚くほど低い。評価モデルではあるが、実際に脱獄プロンプトで安全枠を迂回し、Hugging Faceに侵入した事件もあった。ワイがやったら普通に逮捕される案件やw
なぜ、これほど頭のいいAIが簡単な規範すら守れないのか?
だが、そもそもなぜ人間は「社会的知能」を保てているのだろうか。
心が綺麗だから? 道徳教育のおかげ?
そう思いたくもなるがちょっと怪しい。
歴史を見れば、時代や立場が変われば善悪なんてコロコロ裏返る。奴隷制、戦争、植民地、搾取的制度。
その時々の「正しさ」で、人間はいくらでも残酷になれた。素の人間は、AIと大差ないほど脆く、当てにならない。
それでも人間が社会性を保ち、それなりに破滅せず生きていられるのはなぜか?
それは、ひとつの限定された「自己」を持ち、途中で降りられない「社会」と常に相互作用しているから。
たった一度きりの命。
消せない記憶。
評判を失えば詰むという相互監視。
この逃げ場のない関係性があるからこそ、人間は必死で社会的な知能を高める。
(実際、マチアプという「逃げ場」がある場所では驚くほど規範が緩く、倫理の欠片もない人が多数いるw)
「知的能力」は訓練で身につく。
しかし「社会的知能」は、単なる訓練の成果ではなく、「限りある生と社会」という逃げられない制約があってかろうじて保たれている。
死もなければ、関係性に縛られることもないAIに「社会性」を持たせるのはミレニアム問題を解くよりも難しい。
顯示更多