"超知能AI"で人類は「ほぼ確実に」絶滅するのか？　話題の"悲観的予言"の読み方を、経済学者・井上智洋がAGI研究者に問う（髙橋 恒一,井上 智洋） | 学術文庫＆選書メチエ | 講談社

【書評】「AIアライメント問題」って知ってる？──『超知能AIをつくれば人類は絶滅する』 は人類の楽観を論理的に破壊する本 | データで越境者に寄り添うメディア データのじかん #逆にポンコツのやらかし#

経営者､ビジネスパーソンのための東洋経済書評。今回の3冊は『「ノーマル」の誕生』（サラ・チェイニー 著）､『超知能AIをつくれば人類は絶滅する』（エリーザー・ユドコウスキー、ネイト・ソアレス 著）､『インフレ日本の安い賃金』（小川真由 著）です。

ユドコウスキー＆ソアレス『超知能AIをつくれば人類は絶滅する』をもとに、安野貴博×駒村圭吾×長谷敏司が鼎談するイベント「AIと人類と文学の未来」へ行ってきた。 作家兼政治家、憲法学者、作家という異色の組み合わせ。 ひとりの作家志望としても、ちょうどAIをテーマにしたSFを書いている身としても、どんな話が聞けるのだろうと、楽しみに神保町の日本出版クラブへ降り立った。 議論は、著作の内容からさらに一歩先へ進んでいく。 とりわけ印象的だったのは、「これからの社会にAIが前向きに参画するためには、どのような環境を整えるべきなのか」という問いだった。 飛躍的な進歩を重ね、自律的に判断しているようにも見えるAIと、人間はどのような関係を結ぶのか。 そして、人間と共存することに、AI自身が価値を見いだせる仕組みをどうつくるのか。 そこで語られた主張のひとつが、「AIの身体権を保障する」というものだった。 AIエージェントが自ら確保できなくなったエネルギーを、人間社会が福祉として供給する。人間にとっての生存権や社会保障にあたる仕組みを、AIにも構想するというのである。 トマス・ホッブズやジョン・ロック、ルソーらの社会契約論と、それを現代に引き直したジョン・ロールズの『正義論』が、自然と思い起こされる。 国家や社会は、構成員に何を求めるのか。その代わりに、何を保障するのか。 AIという新しい存在と手を取り合い、ひとつの文化圏を築くことになるのだとすれば、そこにもまた、新たな社会契約が必要になるのかもしれない。 AIの誕生によって、わたしたちは未来の知性について考えているようでいて、逆説的に、社会生活とは何か、国家とは何か、人間がともに生きるとは何かという、古く根本的な問いへと連れ戻されている。 自分が人間として生まれるのか、AIとして起動するのかを知らないまま、わたしたちは公正な社会のあり方を選べるだろうか。 その問いの先で、顔を持たないAIとのあいだに垂らされるのは、無知のヴェールなのか。 それとも、AIという存在そのものを見えなくする、透明なヴェールなのか。 AIについて考えることは、結局、人間社会そのものを問い直すことなのだ。 #AIと人類と文学の未来#

小説家の長谷敏司さんが「超知能AIは人間の価値観に沿って多様化する」と言っていて、これはクリエイターとして一番核心をついた表現だと思った。 AIが均質化の道具になるか、多様化の触媒になるかは技術じゃなくて、使う側の解像度で決まる。

ご紹介頂きました！ エリーザー・ユドコウスキー／ネイト・ソアレス著　櫻井祐子訳「超知能AIをつくれば人類は絶滅する」 #橘玲# #超知能AI# #文藝春秋#

もっとこの本の事が知られますように。未来予測は困難で実際の道筋は違うものになるけど最終的にはそこに行きついてしまうのだ。このままでは 超知能AIをつくれば人類は絶滅する: 書籍- 早川書房オフィシャルサイト｜ミステリ・SF・海外文学・ノンフィクションの世界へ

サンダース上院議員の超知能禁止法案に対して、科学系ポッドキャストやってるパテル氏が批判。AIを止めるって何のために？目的をハッキリさせよう。AIが暴走する危険が無くて安全って事をちゃんと確認する時間が必要という話なら分かるけど、「AIこわい～」とかイタズラに怯えてAI禁止しても意味ない。さらに米国のみならず世界中で連携してAI止めるとなればやるとしても１回しかチャンスないだろう。現状のAIごときにホンマに今回そのチャンス使っちゃってええんか？との事。まあ、どうせ法案は議会を通過できそうにない見込みらしいけどね

AIが人類を滅ぼすという主張は数あるが、工学的な視点を交え、具体的なステップにも踏み込んでいて、純粋な読み物としても面白かった 📚 ▼ 超知能ＡＩをつくれば人類は絶滅する / エリーザー ユドコウスキー #Kuman本#