登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 思考実験」をつけて、この投稿を引用リポスト!
思考実験」をつけて、この投稿を引用リポスト! コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
思考実験」をつけて、この投稿を引用リポスト! を含む検索結果
MITのRikiyaTakehi氏らによるヤバ研究。Qwen3.5-0.8Bに数学問題を解かせると同じ思考を延々とループして一向に答えが出ないバグ的な挙動があった。そこで研究者はAstraに「Qwenを修正してくれない?」って丸投げしてみた。するとAstraはウエイトの中身を見ながら「あー、多分この辺が故障してますね~」つって微調整とか学習とかじゃなくて生のウエイトを直接弄りだした!Astraがアタリをつけてウエイト操作を試行錯誤した結果、Qwenの思考ループが修正されてMATH-500スコアは7.9→48.1に6倍に爆上がり!IFEvalも21→62.3に!研究者は「え…?Astraってウエイトの中身理解できるの!?」と驚愕してさらなる実験を試みる。Astraにゲームプレイを学習させたモデルをいくつか見せたら「これはブロック崩しをプレイするモデルでしょ。これはPong、これはパックマン…」と全部言い当てた!やはりモデルの中身が読めている!次はジャンプ台を乗り越えるのに失敗しちゃう車のモデルを渡したらこれも見事に修正してくれた!その次はブロック崩しのソースコードを渡したらなんとそれをプレイするAIモデルを直接出してくれた!!この結果から、やはりAstraレベルの最先端フロンティアモデルはAIモデルの中身のウエイトを読んで理解する能力があるらしいと分かった!今まで人間はモデルウエイトの中身サーパリ理解できなくて「AIの中身はブラックボックス!」とか言ってたのにいつの間にかAIはAIの中身読めるようになってた!あまつさえウエイトを直接編集、修正、生成する事さえできる!!研究者はこれはWeight-Space Programmingと名付けた
もっと見る
#漂流教室と思考実験展# 本日も出演させていただきます! 暑いのでいらっしゃる方はどうかお気をつけて…!☀️ 某方とついにお写真撮らせていただいた💪
もっと見る
もしLLMの頭の中に、人間がまだ名前すらつけていない「概念」が住んでいたら、私たちはそれをどうやって見つければいいのでしょうか。 🔍 これまでの解釈可能性研究は、「拒否」「真実性」「欺瞞」といった、人間がすでに持っている概念をモデルの内部にひたすら探すという発想で進められてきました。しかし考えてみると、LLMが計算のために使っている「区別」の総量は、人間が持つ有限の言葉の数よりずっと多いはずです。有限の記述で言い表せる性質はたかだか数えられる個数しかないのに、内部状態がとりうる性質の空間は数学的にはそれよりずっと大きい。ここに、人間の概念では捉えきれない「隙間」が存在します。 💡 そこで論文が提案するのが「Xeno-Interpretability(異種解釈可能性)」です。ポイントは、内部表現を実験的に特定し因果的に操作できることと、それを人間の言葉で説明できることを、あえて別問題として切り分ける点にあります。人間には意味づけできなくても、文脈をまたいで安定して見つかり、介入すれば挙動が変わる「Xeno表現」というものが存在しうる、という発想です。 🌐 これは単なる思考実験にとどまりません。エージェント同士が対話しながら協調するマルチエージェントシステムでは、人間には読み取れない固有の内部表現がメッセージを通じて静かに伝播・安定化していくかもしれない、という安全性への示唆も論文は指摘しています。 タイトル: Xeno-Interpretability: Investigating the Alien Minds of LLMs URL: #解釈可能性# #AI安全性#
もっと見る
#ジュリアン・バジーニ# さんの #100の思考実験# を読みました。 どちらの道も正しく見えるし、どちらも間違っているようにも思える…🤔 そんな100種類の命題が掲載された一冊です。 毎日少しずつ読んで、頭の体操してました。 ボリュームもかなりあるので楽しめました。 #読了# #向井和美# #紀伊國屋書店#
もっと見る
人類が必ず滅ぶという断言を嫌うのは理解できます。胡散臭いかもしれない。ただ、思考実験を進めていくと最終的にはそこに行きついてしまうのです。確かに道筋は不確かで予測と異なる道をたどりますが最終的にはそこに収束してしまいます。それがこの本の主張なのです
もっと見る
◢◤『 #思考実験展# 』とは 「もしも別の世界に行けたなら、 あなたはどう生きるのか?」 その思考を実験していく新たな体験型エンターテイメント。 これまで東京・大阪で累計2万人以上を動員し、各地でチケット完売を記録した話題の“じぶん没入体験“です。
もっと見る
7/17〜9/6まで吉祥寺で開催の 『#漂流教室と思考実験展』を# ひと足先に体験させていただきました。 かなり没入してきました。楽しかったな。また行こうかな。グッズも豊富で可愛いです。是非。
もっと見る
#思考実験展# 今日はイマーシブほぼ初体験のお友達を連れて行ってめちゃくちゃ楽しかったと言ってもらえて嬉しかった☺ 案内人さん、チャルありがとう! 今日のチャルにもたくさん考えて話しました。 この世界だからこそ綺麗事だとしても自分の中の希望を無くさず答えました。
もっと見る
#思考実験展# に長妻さんと行ってきました! 第一弾のときも参加したのですが、今回はまた違った立場でいろんな選択をするので全然違う体験でした…! 私はいろいろ考えてウルウルしてしまう場面も🥹 自分とは違う周りの意見を聞けるのも私はすごく刺激になりました!! おすすめです✨
もっと見る
実は思考実験展2回行きました。 どのキャストさんの日か調べず、その時の出会いを楽しんでおります☺️ 1回目と2回目で少し変えてやったけど、自分の芯はブレずに貫きました。 決断が早すぎてチャルにも同卓の皆様にも驚かれました笑 チャル可愛いね! #思考実験展#
もっと見る