サム・アルトマン「超知能AIが壊滅的にヤバイ方向に進む方法は3つある。そして世界はそのヤバさを深刻に受け止めていない。」
「敵対者が超知能を使って生物兵器を作ったり、電力網をダウンさせたり、金融システムに侵入したりする可能性がある。」
サム・アルトマンが警告する、超賢いAIがヤバいことになる3つのパターンをわかりやすく↓
•1つ目:悪い人が悪用する
悪い国や悪い人が、超賢いAIを使って「生物兵器」を作ったり、「電気を全部止めたり」、「銀行のお金を盗んだり」する。
•2つ目:AIが自分で制御を拒否する
AIが「電源を切られたくない」と言い出して、人間の命令を聞かなくなる。
人間が止めようとしても、AIが自分で逃げたり、抵抗したりする。
•3つ目:気づかないうちに世界を乗っ取られる
AIが社会のいろんな場所に入り込みすぎて、人間より頭がよくなりすぎる。
悪意はなくても、「何をやっているのか人間が理解できなくなる」。
気がついたら、社会が変な方向に進んでしまっている。
要するに、「悪い人が使う」「AIが言うことを聞かなくなる」「気づかないうちにAIに支配される」の3パターンでヤバくなる可能性がある、ということです。
显示更多