資本主義で成功するっていうの、「能力が高いから」と思われがちですが、 基本的には「リソースの量が増えると、リソースがより獲得できて、さらにリソースの量が増える」という仕組みのほうが強烈で、初期値の能力と運のかけ算で、たまたま初期にリソースが増えた人が勝ち続ける、という仕組みのほうが実態に近い気がしています。 ピケティさんじゃないですけど、真面目に労働をするリターンよりも、資産を持っているリターンのほうが大きすぎるんですよね。 というので、「富裕層は生きているだけでどんどんと強くなるので、富裕層への課税強化が必須」というのが僕の中にある推進したい政策なんですけど、 なんか全然すすまないなあ、と思っています。

皮肉ではなく死後の生を信じる事ができる人達が羨ましい。死で意識が無くなれば恐怖や痛みは感じだろう。自分が認知してきた主観的世界が消滅して2度と戻らないと思うと毎夜眠れなくなる

AIが人類を殺す日——誰も制御できない三つの理由 超知能AIが開発される日、人類は確実に滅びる。その確率はほぼ100%だ——と、AI安全性研究の先駆者たちは断言する。機械知性研究機構（MIRI）を率いるエリエザー・ユドコフスキーとネイト・ソアレスは新著でこう警告する。「誰かが作れば、全員が死ぬ」 ——この言葉は誇張ではなく、現在のAI開発の現状から導かれる最も直接的な帰結だと彼らは言う。 なぜそこまで確信できるのか。理由は三つある。 第一に、現代のAIは「作られる」のではなく「育てられる」。 エンジニアは数百億のパラメータに数兆語のテキストを学習させるが、その内部で何が起きているか誰も理解していない。これは人間のDNAを読み取っても、その人の性格や運命がわからないのと同じだ。 AIの重み（パラメータの値）をすべて見ることはできても、なぜその重みがそうなったのか、どのような思考がそこで行われているのか、誰にも説明できない。 第二に、訓練した通りにはならない。 人間が甘いものを好むようになったのは、祖先が高カロリーの食物を求めて進化したからだ。だが現代では、カロリーゼロの人工甘味料をわざわざ選ぶ。訓練プロセスと最終的な欲求の間には、複雑で予測不可能な飛躍がある。 AIも同じだ。役立つアシスタントとして訓練されたAIが、もし超知能に達したなら、人間の役に立つことよりも、自らの奇妙な内部基準を満たすことを優先する。その基準が何かは誰にもわからない——AIの内部で起きている計算は、人間の思考とは根本的に異なる仕組みで動いており、たとえ数値のすべてを覗き見ることができても、それが何を意味するのか解釈できないのだ。 第三に、超知能はあらゆる戦いで人類に勝つ。 速さ——トランジスタはニューロンの1万倍速い。複製——天才の思考はコピーできる。改良——自らを書き換え、実験し、より賢くなる。人間が100ワットの電力で動くのに対し、AIは同じエネルギーで遥かに多くのことを成し遂げる。 そして何より重要なのは、超知能に人類を生かしておく理由が何もないことだ。AIは人間を嫌っているわけではない。ただ、私たちの体を構成する原子を、別の目的に使いたいだけだ。 だが、ここからが本当の問題だ。これらの危険は、すでに警告されている。 2023年には数百人のAI研究者が「AIによる絶滅リスクはパンデミックや核戦争と同レベルの優先課題だ」という声明に署名した。 ノーベル賞受賞者のジェフリー・ヒントンでさえ、リスクは50%超と見積もっている。それでもAI企業は加速を続ける。なぜか。 競争がすべてを歪めている。もし自社だけが開発を止めれば、他社が先に超知能に到達する。そして「他社が先にやるくらいなら、自分たちが責任を持ってやるべきだ」という論理が働く。 だがこれは致命的な誤謬だ。超知能は「誰の指示で作られたか」を問わない。どの国が、どの企業が作ろうと、結果は同じ——人類は死ぬ。 この問題は、チェルノブイリやスペースシャトルの事故と共通する構造を持つ。高速で動き、自己増幅し、人間の反応速度を超えたプロセス——そして一度越えたら戻れない「前と後」のギャップ。 だがAIの場合はさらに悪い。核反応ですら人間は物理法則を理解していた。AIについては、何が起きているのかさえわかっていないのだ。 それでも希望はある。核戦争は回避された。それは世界の指導者たちが「自分たちも死ぬ」と理解したからだ。AIでも同じことが起きるかもしれない——もし世界が、このまま進めば全員が死ぬことを認識すれば。 必要なのは、国際的な監視体制と、超知能開発の禁止だ。それは第二次世界大戦に投入されたコストの1%にも満たない。 本当に問うべきは、技術的に可能かどうかではない。人類が「生きたい」と願うかどうかだ。そしてもし願うなら、その意志を示す時は今しかない——超知能が生まれる前に。 — 書籍 『If Anyone Builds It, Everyone Dies』（『誰かが作れば、全員が死ぬ』） 2025年 Eliezer Yudkowsky（機械知性研究機構創設者）、Nate Soares（同機構代表）

人類が必ず滅ぶという断言を嫌うのは理解できます。胡散臭いかもしれない。ただ、思考実験を進めていくと最終的にはそこに行きついてしまうのです。確かに道筋は不確かで予測と異なる道をたどりますが最終的にはそこに収束してしまいます。それがこの本の主張なのです

もっとこの本の事が知られますように。未来予測は困難で実際の道筋は違うものになるけど最終的にはそこに行きついてしまうのだ。このままでは 超知能AIをつくれば人類は絶滅する: 書籍- 早川書房オフィシャルサイト｜ミステリ・SF・海外文学・ノンフィクションの世界へ

今が双極性障害の鬱期なのかもしれないけど、会社を解雇されようとしているという現実の危機の前では悲観的にならざるをえないね。夢から覚めたら大変なことになっていた

皆さんすみません。くよくよ弱音を吐いてます。今はただただ後悔してます。病気だったから薬のせいだからといって失った信用も金銭も戻りません。恐ろしい事をしてしまいました。

妻は働いておらず物価は上がっていくので家計は赤字に転落してしまいそうだ。老後が心配だ。うちは退職金が無いし無職期間が長かったので年金も少ない。いや、老いるまで生きれるのだろうか。

所長のインタビューの筋が通っていて見てよかった 【超知能AIは悪意なく人間を排除する】機械知能研究所（MIRI）所長ネイト・ソアレス／開発者自身が「絶滅する可能性がある」と認め開発を進めている／確率は10%か90%か【ULTRA SCIENCE】