登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

苫米地英人
@DrTomabechi
Hideto Tomabechi Fellow CyLab CMU ( コグニティブリサーチラボ ( Prof C5I GMU. Ph.D CMU1993. 日本外交政策学会会長
参加 March 2010
1.8K フォロー中    198.2K ファン
和訳したが「成果の帰属と盗用をめぐる深刻な問題を生む。さらに、AIが生み出した着想を発展させ、数学の確立された知識体系に組み込む仕事を進んで引き受ける数学者がいなければ、そうした着想が十分に生きたものとなることは決してなく、人から人への不可欠な知の伝承の連鎖も失われることになる。」の文章がまさに今回の"疑惑"が引き金になってることを示唆してる。AIで検証性が失われるからではもちろんない。それはAIに手抜きさせずに思考過程を明文化させればいいだけ 「数学におけるAIの深刻な目標の不整合」声明の和訳(X文字数制限で一部割愛) 「ここ数か月で、大規模言語モデル(LLM)の数学的能力は劇的に向上し、数学の多くの分野で、未解決の重要問題を解けるまでになった。しかし、数学の問題を解くことをベンチマークとして追求するAI企業の動きは、学問としての数学と数学界にとって有害である。AI企業の目標と数学界の目標との間には、深刻な不整合がある。私たちは、これを、他の科学分野や創造的な専門職、さらには社会全体に影響を及ぼす、より広範な目標の不整合の一部と捉えている。 著名な問題はしばしば、この世界への理解がどれほど深まったかを測るための、目印や灯台の役割を果たしてきた。こうした問題の一つを解くことは、新たな洞察や興味深い手法が得られたことの確かな証しであった。それらはその後、講演、議論、簡明化という、長く骨の折れる過程を通じて、数学者の共同体によって研究されてきた。理想的には、この過程の終わりに、その成果が、どの大学院生にも、さらには学部生にも学べるような形で教科書にまとめられる。数学的な着想のなかには、さらに長い道のりを経て、数十年、あるいは数百年後に、広く人々に理解され、使われる道具となるものもある。 数学界は、多くの点で、人類の縮図として機能している。そこには、多種多様なアプローチを用いる個人が、核となる価値観を共有して集まっている。私たちの専門分野で最も貴重な資源は、学生と着想であり、私たちはそのどちらも、大切に育てている。それぞれが数学の世界で自らの歩みを進められるようになるまで、その可能性を十分に伸ばす責任が、私たちにはあると感じている。 ここ数か月、AIが数学の重要問題を解くことに成功したというニュースは、数学界の外でも大きく報じられている。しかし、問題を解くことは、概念的な理解と洞察という第一の目標を達成するための、道具であり代理指標にすぎない。AIの世界でこの点を忘れれば、道具が本来の目標に反するものへと転じかねない。実際、「真である/偽である」という言明を、ますます速いペースで大量生産することは、新たな着想に命を吹き込むどころか、それらが育つ肥沃な土壌を破壊しかねない。 こうした解答はしばしば、適切な形で書き上げ、新しい手法や着想を抽出し、他の人々による関連する先行研究を引用するための時間もないまま、急いで発表される。あらゆる創造的な専門職の場合と同様に、これは、成果の帰属と盗用をめぐる深刻な問題を生む。さらに、AIが生み出した着想を発展させ、数学の確立された知識体系に組み込む仕事を進んで引き受ける数学者がいなければ、そうした着想が十分に生きたものとなることは決してなく、数学者同士をつなぐ、人から人への不可欠な知の伝承の連鎖も失われる。 私たちは、知的活動全般に対する脅威を目の当たりにしている。そこには、AIの利用によって得られる結果と、その利用が当初目指していた目的との不整合がある。多くの分野や活動において、長年の訓練は伝統的に、最終的な答えや成果物を生み出すためだけでなく、理解を深め、新たな問いや着想を形にする能力を養うためのものでもあった。しかし、人間による膨大な過去の仕事を土台として、AIシステムは、そうした仕事の成果を直接生み出す能力をますます高めており、これらの目標は一致しなくなっている。数学界がいま直面している問題は、他の科学分野や創造的な専門職が直面している問題と似ており、人類全体が直面しうる問題を示している。すなわち、AIが仕事のあり方を変えていくなかで、その仕事がそもそも何を実現するためのものだったのかを、どうすれば見失わずにいられるのか、という問題である。 AIには、数学の本質的な探究と理解を深め、その進展を加速させる可能性がある。専門分野としての数学は、いくつかの面でこうした変化に適応する必要がある。しかし、これらの変化が最終的に数学に利益をもたらすのか、それとも破壊的な影響を及ぼすのかは、この新しい技術を掌握する人間たちの判断に左右される。 これらの問題には、数学界、この技術を開発する企業、そしてより広くは、他のさまざまな知的活動でも同様の問題に直面することになる社会が、緊急に取り組まなければならない。」 原文以下
もっと見る
数学難問をAIで解決、フィールズ賞25人が非難声明「科学に有害」との日経記事だが、Anthropicが10月後半以降の上場がほぼ決まった一方、上場を延期したOpen AIがこれに対抗してナビエ–ストークス方程式証明のプレスリリースに至ったとみられる経緯に"疑惑"があり、タイミング的に今回のフィールズ賞25人による非難声明の引き金であったと容易に推測される。なぜか日経にはこの疑惑が書かれておらず、逆にネットでは数学者を非難する論調まである。 オープンAI、数学の「超難問」方程式証明か データ不正使用指摘も アンソロピックのIPO、10月後半以降か Open AI上場延期 OpenAI fought dirty on career-making math problem, says NYU mathematician からX文字制限に合わせて一部のみ翻訳 ーー ニューヨーク大学(NYU)の数学教授Tristan Buckmasterは火曜日、理論数学における主要な未解決問題の一つについての予備的な成果を含む、3つの証明を発表した。Anthropicの数学者Levent Alpögeとの共同研究により、CodexとClaudeの両AIモデルを用いて得られたこれらの成果は、それ自体として重要である。しかし同時に、同じ問題を解こうとするOpenAIの取り組みをめぐる、異例の論争も伴っている。 OpenAIは、ナビエ–ストークス方程式の解の存在と滑らかさの問題について、完全な証明を公開した。これは、Buckmasterらの成果がその解決に向けて前進をもたらしていた問題である。OpenAIによれば、この証明は未公開の次世代モデルによって発見されたもので、 ナビエ–ストークス方程式の解の存在と滑らかさの問題は、7つの「ミレニアム懸賞問題」の一つである。これらは数学の重要な未解決問題であり、それぞれについて、最初に解決した個人またはグループに、クレイ数学研究所から100万ドルの賞金が授与される。 BuckmasterとAlpögeは、自分たちの成果の最終的な取りまとめを進めている最中に、「私たちの進捗に関する情報がOpenAIに伝えられていた」ことを知った。OpenAIに連絡すると、中心となる問題について、すでに完全な証明を得ていると告げられた。しかし、OpenAIがいつこの問題の研究を始めたのか、人間がどの程度関与したのかについて追加の質問をすると、回答は次第にはぐらかすようなものになった。 「チーム全体がこの問題に取り組んでおり、途方もない量の計算資源が使われていたことが分かった……」とBuckmasterは述べた。「最終的には、[最初のプロンプト]が送信されたのはここ数日以内であり、私たちの研究に関する情報がOpenAIに届いた後だった、という点で認識が一致した」。 これが事実なら、OpenAIのチームは、BuckmasterとAlpögeのアプローチが正しいと確信し、計算資源における物量面の優位を使って、先に形式的な証明に到達しようと決めたことが示唆される。 OpenAIの投稿は、この時系列の多くを裏付けている。具体的には、今回の取り組みは、ミレニアム懸賞問題のうち2問が解かれたという噂をきっかけに、9月1日に始まったと明記されている。また、この投稿は、BuckmasterとAlpögeとの話し合いが続いていることも認めている。 この問題自体には多くの数学者が取り組んでいるが、Buckmasterと共同研究者が採った具体的な方策は、はるかに珍しいものである。そのため、OpenAIが同じ時期に同じアプローチを採ったことを、Buckmasterは不審に思った。 「滑らかな外力を用いてクレイ研究所の懸賞問題に取り組む道筋、すなわちFeffermanによる問題の定式化の選択肢(c)と(d)は、LuisとDiegoが切り開いたものであり、Leventと私がひそかに取り組むことを選んだ道筋でもある」とBuckmasterは記した。「私の知る限り、ほかにこれに取り組んでいた人はほとんどいなかった」と続けている。「モデルに問題文を与えて、数日で行き着くような方向性ではない」。 AlpögeはAnthropicに雇用されているが、この研究を同社の業務として行っていたわけではない。そのため、両氏は複数のモデルを併用し、主としてOpenAIのCodexを頼りに研究を進めていた。それでも、Alpögeが競合する研究機関に所属していることは、OpenAIにとって不満の種になっていたようだ。Buckmasterは、OpenAIの数学者Sébastien Bubeckが、提示した妥協案の一環として、Alpögeの貢献を示すクレジット表記を外すよう求めたと主張している。 Buckmasterはまた、この研究をまとめる過程でCodexを広範に使用していたため、自分の研究から得られた情報が、OpenAI自身による問題解決の取り組みに利用された可能性についても懸念を示した。 ーー 因みに今回のフィールズ賞25人の非難声明は、以下にある。
もっと見る