私がフィールズ賞受賞者たちの公開書簡に署名しなかった理由

[この記事は Terence Tao のブログにもクロスポストされています。]

私が 11 歳くらいのとき、フェルマーの最終定理について初めて聞いた。問題の主張と、それにまつわる物語にすぐに引き込まれ、かなり本気で証明を試みた。当然ながら失敗したが、その試みから多くを学んだ。n = 3 の場合が 200 年以上前にオイラーによって証明されていたことを知らずに、私はそこが出発点として良いはずだと考えた。それを片付ければ、一般の場合に取りかかる準備ができると楽観していたのだ。

それでもどこから手を付ければよいか分からなかったので、問題をさらに単純化し、立方数の逐次差分に集中することにした。その差分自体が立方数にはなり得ないことを示そうというわけだ。当時は自分がやっていることを代数の言葉で表す方法を知らなかったので、ディオファントス方程式 3n² + 3n + 1 = m³ に解がないことを明示的に証明しようとはしなかった。ただ逐次差分をいくつか計算し、それを眺めて、なぜどれも完全な立方数にならないのかを掴もうとしていた。（付け加えると、この話は半世紀後に残ったわずかな記憶の痕跡から私が推測して再構成したもので、完全に信頼できる叙述ではない。）ある時点で「差分の差分」を取ることを思いつき、それが等差数列をなすと分かった。それは前進のように感じられたので、差分をもう少し調べ、純粋に経験的に次の規則を見出した。n 乗から出発して逐次差分を取り続けると、やがて定数数列 n!, n!, n!, … に到達する、と。

どういうわけか私はこの観察をフェルマーの最終定理の証明に変えることができず、後にその夢は別の数学の夢に取って代わられた。しかし、数学の教育の中で「差分を取ること」や多項式に何が起きるかを教わったとき、私はそれを、自分で差分数列を見つけて何時間も楽しく遊んでいなかった場合よりもずっとよく理解した。この話を持ち出したのは、25 人のフィールズ賞受賞者が署名したあの書簡が強く強調していた現象の一例としてだ。つまり、問題について考えること自体から多くを学ぶのであり、解けたかどうかとは関係ない。

だが結局、その書簡には署名できないと感じた。書かれていることの多くには同意するのだが。代わりに、以前『ライデン宣言』に対して行ったのと同じように、自分の立場をブログ記事で示すほうがよいと思った。ただし、そうすることが私を何らかの対立陣営の一員にするわけではないと理解してほしい。実際、今の私の懸念のひとつは、数学コミュニティが激しく分断されてしまうことだ。それは何としても避けたい。また、根本的な点については、私たちが危機に直面しているという見方に同意する。ただ、その危機とは何かについて、少し違う分析を提示したいだけだ。この分析が完全に独創的だとは主張しない。すでに何人かの数学者が類似の考えを示していることを知っている。ただ（それがどれほどの価値かは別として）私はほぼ独立にこの結論に至った。

「独立」と言えば、はっきりさせておくと助けになるかもしれない。私は OpenAI の数学グループに知人がおり、彼らのモデルのいくつかへの早期アクセス（たいてい公開の数日前）も与えられ、公開後は Pro モデルへの無料アクセスも得ているが、OpenAI から報酬を受け取ったことは一度もない。これを記すのは、（おそらくナイーブにも）私が書く内容が人身攻撃的な理由で退けられないことを願ってのことだ。私が「AI 推進派」と見なされうるもうひとつの理由は、何度も公言しているとおり、ケンブリッジに自動定理証明に取り組むグループがあることだ。しかし、それはむしろ「反 AI」である理由になる。私たちのグループは、人間が面白い定理をどう証明するかを可能な限り理解することで、コンピュータに面白い定理を証明させる問題に取り組んできた。ところが LLM が明らかに、私たちのような洞察の助けなしにそれをやってのけるとなると、私たちの仕事の主要な動機のひとつが消えてしまう。別の言い方をすれば、私たちは「苦い教訓」を飲み込まねばならなかった（もちろん、そうなりうることは常に承知していたが、起きる速さには驚かされた）。とはいえ、LLM をブラックボックスとして使えるとしても、この理解を得ようとすること自体は今も非常に面白く価値ある知的営みだと思っている。ただそれは別のブログ記事の主題だ。

では、なぜ私は署名しなかったのか。私が主要な論点だと思う部分を、書簡から二文引こう。

しかし問題を解くことは、概念的理解と洞察という第一の目標を達成するための道具であり代理指標にすぎない。AI の世界でこれを忘れれば、道具が第一の目標に刃を向けることになりかねない。実際、ますます速い速度で「真/偽」の言明を大量生産することは、肥沃な土壌を破壊し、新しいアイデアに命を吹き込むどころか、その逆になりうる。

署名しなかった主な理由はおそらく、この見方に全面的には同意しないからだ。私にはもっと複雑な見方があり、それは四半世紀前のエッセイ『数学の二つの文化』で実際に述べた。要約すれば、問題解決と概念的理解の関係について、数学には態度のスペクトラムがあるということだ。スペクトラムの一端には、問題を解きたいという願いが主な動機で、概念的理解をその目的のためのきわめて重要な手段と見る数学者がいる。もう一端には、概念的理解を得たいという願いが主な動機で、問題解決をそちらの目的のためのきわめて重要な手段と見る数学者がいる。私は、この「深刻な不整合」に関する書簡が、「正しい」態度とは概念的理解を最優先することだと述べているように読まれうることを懸念している。実際、上の二文はほぼ直接そう言っている。しかし数学者はスペクトラム全体に分布しており、それは良いことだ（あるいは、これまでは良いことだったと言うべきかもしれない——未来ははるかに不確かだ）。そして私は、私自身を含む多くの数学者に対して、彼らの数学的気質がどこか「間違っている」と示唆したくない。

私自身の数学的態度は、Jacob Tsimerman のツイート（彼も署名しなかった）で美しく述べられているものとよく似ている。今読み返すと、そこで述べられていることの多くは、これから私が述べることでもある。そしてそのツイートは Daniel Litt への応答でもある。彼は、数学と AI について最も賢明な論者の一人だと私が思っている。彼の見解はこちらの後続の記事に述べられている。私はこの記事を書き終えるまで意図的に読まなかったが、予想どおり大きな重なりがあった。この機会に、Noah Smith の優れた記事『英雄の時代の終わり』もお勧めしておく。未読ならぜひ。

ここまでは個人の数学的理解について話してきたが、署名者の多くが気にかけているのはそれよりも、少なくとも一部は「人間が問題を解くという活動」から生じる集合的な理解だろうと推測している。私の推測では、彼らは完全に筋の通った形でこう主張するはずだ。たとえ集合的理解が第一の目標であっても、多くの個人が問題を解きたいという願いを主な動機としているならそれは全く問題なく、その集合的理解に貢献する、と。

その解釈をとると、論点は少し変わる。数学コミュニティの集合的理解ができるだけ進んでいることと、できるだけ多くの問題に答えがあること、どちらがより重要か。あるいはこの二つの目的は異なる仕方で価値があるので、どちらが重要かと宣言する意味はないのか。それとも両者は不可分に結びついていて、一方が他方より重要だと論じること自体が無意味なのか。そして「重要」と言うとき、それは誰にとって重要なのか——数学者にとってか、社会全体にとってか。

私はこれらを難しい問いだと思っているので、ただ答えを宣言したくはない。（私が今そこで何をしたか分かるだろうか？）代わりに、たとえ暫定的であっても、自分が至った結論にはできるだけ論証を付けたい。そこで二つのシナリオを比べてみよう。第一のシナリオ——実際に起きる可能性がより高いと思う——では、ほぼすべての数学者より問題を解くのが得意なモデルが公開される。モデルにできないことをできる残存の数学者が少数いたとしても、彼らはモデルを多用すればはるかに速く働ける。そのおかげで、私たちが深く気にかけてきた多くの問いへの答えが短期間で手に入る。しかし答えを受け取る速度は、数学コミュニティがそれを吸収できる速度をはるかに超えている。とくに、答えの大半は数学者にとってゼロの労力で得られる——「ありがとう、続けて」といったプロンプトだけで。

第二のシナリオでは、まったく別の理由で、現在よりはるかに強力なモデルの公開を国際的に止める合意が成立し、テック企業内の数学者も内部モデルに主要な問題を解かせることを控える。代わりに数学コミュニティの指導を受け、しかるべき代表性のある機関が「ある問題の解答を得る利益が、人間がより長い時間をかけて苦闘する利益を上回る」と判断して依頼したときにだけ、その問題を解く。

この二つのシナリオが、個人の理解と集合の理解にとって何が違うのかを考えてみたい。まず個人の理解から。

個人の理解について言えば、大きな新結果が大量に押し寄せてもそれほど変わらない、と論じることはできる。外にはすでに、私が理解する望みなど到底ないほどの数学がある（たとえばフェルマーの最終定理が証明されたときは魅了されたが、その証明を理解しようとはしていない）。私が理解している部分についても、自分で発見したから理解している部分はごくわずかだ。ただしそれは、私が何よりも深く理解している部分でもある（少なくとも一時的には——しばらくすると忘れて、築いた理解のかなりの部分を失う）。とはいえ、個人の理解を積み上げるという観点から前向きに見える変化がひとつある。研究対象として選べる結果の選択肢がはるかに広がるのだ。また、どこかで行き詰まれば AI が助けてくれる。おそらく最も大きな負の変化は、難しい研究問題に何か月、何年も苦闘するときに使う脳の部位を、鍛えなくなってしまうことだ。それは理解を育てるのに非常に役立ちうる。

「おそらく」と言うのは、原則としては LLM に相談せずに非常に難しい問題を考えることを妨げるものは何もないからだ。しかし実際には、人々が今と同じ水準の努力を払う可能性は低いように思える。状況はカーナビに少し似ているかもしれない。使わないと決めて、地図を見て経路を覚えて辿る脳の部位を活性化させ続けることは常にできるが、実際にはほとんどの人がカーナビを使う誘惑に屈する。（実際、私自身はその部位を活性化させようと努めており、最近、スマホで軽く経路を調べたものの、いざ出かけるときにスマホを持ってくるのを忘れ、結果として自力で目的地にたどり着けたことを、わりと誇りに思っている。）しかし、たとえ AI の出力を読むだけだとしても、脳の「問題解決の筋肉」が完全に萎縮するとは思わない。学生が数学の論文を読むとき、私は「受動的に」ではなく「能動的に」読むよう強く勧めている（これはかなり標準的な助言だと思う）。つまり、まず自分で結果を証明しようとし、行き詰まってヒントが必要なときにだけ論文を見る。それも、ヒントだけを取り、余計なものはできるだけ取らない。そうやって読めば、常に何かを解いていることになる。ただの練習もあるし、かなり難しいものもある。LLM は私たちの数学的背景を把握し、この能動的な読み方を進められるよう、ちょうどよいヒントを与えられるようになるだろう。そう、自分で難問を解いたときに得られる、あの特に深い理解と所有感は失われる。だが、そのことで数学の進展が損なわれるとは、私には明らかでない。まさにこの点への反論をぜひ聞いてみたい。つまり、AI が私たちよりはるかに証明を見つけるのが得意な世界で、証明とのあの深い関わりから得られる理解にどんな効用があるのかを知りたいのだ。

集合的理解についてはどうか。書簡からもう少し引こう。

実際、ますます速い速度で「真/偽」の言明を大量生産することは、肥沃な土壌を破壊し、新しいアイデアに命を吹き込むどころか、その逆になりうる。

しばしばこれらの解答は慌てて発表され、きちんと書き上げる時間も、新しい方法やアイデアを切り出す時間も、他者の関連する先行研究を引用する時間も残されない。すべての創造的職業と同様、これは深刻な帰属と盗用の問題を引き起こす。さらに、その発展と数学の正典への統合を担う意欲ある数学者なしには、AI が着想したアイデアが完全に生きたものになることは決してなく、数学者の間の決定的な人間の伝達の連鎖が失われてしまう。

適切な引用の問題には後で戻ることにして、ここでの核心的な懸念だと思うものに集中しよう。すなわち、結果があまりに速く証明されると消化の過程が不可能になる、という懸念だ。結果が適切に消化されないことは確かに心配しているが、理由は違う。

第一に、AI が生み出しているのは「真/偽」の言明だけではない。私たちは今や、滑らかな外力をもつ Navier-Stokes 方程式が有限時間で爆発しうることを知っているだけでなく、その証明を持っている。それは人間の数学者による多くの素晴らしい仕事の上に成り立っている。かつて多くの人が、AI は私たちの好きな問題をまったく不透明な証明で解いてしまうのではないかと懸念していたが、そうはならなかった。彼らの書き物には改善の余地が大きいとしても、だ。（ついでに言えば、それらの不十分な書き物はほぼ確実に一時的な煩わしさであり、数学の実践や将来の数学的理解への根本的な脅威ではないと考えている。）

第二に、新しい結果の量が多くても、数学は高度に専門分化した学問なので、数学者は並行して働ける。たとえば、1 年で 1000 の重要な結果を消化しなければならず、それが数学全体にほぼ一様に分布しているとしよう。その場合、多くの数学者のサブコミュニティはそのうち 30 ほどを理解したいと思うだろうし、個々の問題ごとに、その理解を先導する明らかな人材はごく少数の専門家である可能性が高い。そしてその少数は問題ごとに異なる。つまり大きな仕事ではあるが、必ずしも不可能ではない。

この文脈では、人間の数学者の産出量の膨大さを考える価値がある。AI 以前から、それは近年増えているように見える。時にそのことへの不満を聞くが、人間の数学者が面白い定理を証明する速度を落とすべきだという提案は聞いたことがない。それは一部には、そうした定理の著者が論文をよく書き、良い講演をするよう努めているからだろう。では、よく書かれていない論文（重要なものを含む）や、聞いても分からない講演をする著者についてはどうか。それは腹立たしいが、見慣れた腹立たしさであって、危機とは考えない。

第三に、たとえ AI の出力量が私たちが適切に消化できる量を超えていても、それは必ずしも悪いことではない。不完全な比喩だが、今やストリーミングサービス上のコンテンツは誰にも見きれないほど多く、その結果、ほとんど見られていない非常に良いコンテンツがほぼ確実に存在する。しかしそれは、コンテンツがはるかに少なく、そのすべてが然るべき注目を受ける状況より、明らかに悪いとは言えない。数学に戻れば、消化しきれないほど AI 生成のコンテンツがあるなら、そのうちどの部分を消化するかを自分で選べばよい。

そのためには、何がそこにあるのかをある程度知っている必要がある（これは、人間の数学者が、証明を詳しく理解していなくても自分の分野で知られている結果についてかなり多くのことを知っているのと少し似ている）。ひとつの方法は、おそらく AI の助けを借りて、よく設計されたデータベースを作ることだ。しかしそれは不要かもしれず、むしろ LLM と話して、理解したい数学の領域について、あの「何があるかを知る」という仕方での鳥瞰図を出してもらえばよい。

懸念はこうらしい。数学のある非常に面白く重要な部分が AI によって発見され、それから見過ごされる。人間の数学者が発見していれば見過ごされなかったはずなのに、と。それは事実かもしれないが、重要なのは、AI が発見し、かつ見過ごされなかった面白く重要な数学の量が、AI がもっと控えめな役割を果たしていた場合に人間が発見し適切に消化したであろう量を上回るかどうかだ。

要するに私には、AI による「大きな」結果の洪水は、適切に消化されない重要数学の量を増やすだろうが、同時に適切に消化される量も増やすだろうと思われる。それはかなり良い取引に見える。

AI が人間の数学者に適切なクレジットを与えない問題について、簡単に触れておく。これが現時点で深刻な問題であることは同意するが、これも一時的な問題だと私は見ている。まもなく「クレジット体系」全体が崩壊するだろう。驚くべき証明を見つけることは、市民科学者が望遠鏡で天体を見つけ、それが新しい彗星だった、というのと同じ程度の知的達成にしかならなくなるからだ。それが起きるまでは、キャリアがかかっているのだから人間に当然のクレジットを与えることが重要だが、それもまもなく当てはまらなくなる。この問題が存在することには当惑している。LLM に証明を見せて、その中のどのアイデアが既に文献にあるアイデアに近いかを尋ねれば、極めて得意に違いないと思っていたからだ。この謎の答えが「人々が急ぎすぎて、ただそれをやる手間を惜しんだから」でないことを願うが、少なくとも一部のケースではそうなのではと恐れている。もしそうなら、不注意だった人たちは批判されて当然だが、数学の存続に比べれば小さな問題だ。特に引用の欠落が速やかに是正されるならば。

以上から、AI が主要な定理を証明できなかった場合に比べて、AI 後の世界で数学者が少なくとも同量の数学を消化すると楽観しているかというと、そうとも言い切れない。しかし私の懸念は、私たちができなくなることではなく、現在この消化の過程を支えている社会構造が破壊され、十分に代替されないことにある。

ひとつの起こり方は、AI が社会をそれほど混乱させるか、あるいは私たちの多くを殺してしまい、「現在の数学伝統のようなものを保存すること」が関心事ですらなくなることだ。重要なのは人類の生存だけになる。だがそれも別のブログ記事の主題だ（実際、今それを書いている途中である）。

代わりに、幸運にも AI がほぼ制御下に留まったとしよう。そのときの私の懸念は、私たちが知っていることを新しい世代の数学者に伝えられないことだ。私自身について言えば、数学者になった主な動機は「未解決問題を解く」という夢だった——有名であればあるほどよい。また私は、本や論文を読んで他人の数学を学ぶことより、問題を直接考えることを常にずっと好んできた。（それが良いことだとは言わない。自分の事実を述べているだけだ。）有名な問題を解くという夢がなければ、自分が数学者になったかどうか分からない。完全には否定しない。本当の動機は、この分野に才能があり、問題を解くことが少数の同僚から敬意を得る手段だったからかもしれない。その敬意を別の形で得ようとしたかもしれない。たとえば数学のある領域をとことん考え抜き、自分がそれをどれほど理解しているかを他者に示す、という形で。だがそれがどれほど動機づけになったかは分からない。私は、それが強い動機となる若者の層が存在することを強く願っている。人間の数学的伝統の存続は、それにかかっているかもしれないと思うからだ。

したがって私が見る主要なリスクは、数学の博士課程に進み、数学的伝統の担い手になるはずだった多くの人が、そう望まなくなることだ。博士学生を抱える私たち（私を含む）は、彼らが時間を生産的に使える想像力豊かな方法を、学生本人と相談しながら、できる限り考え出す必要がある。それをうまくやれるかどうかが、数学の未来に大きな違いをもたらしうる。関連するリスクは、政策立案者の間に「数学者はもう不要だ」という認識が生まれ、資金を得るのがずっと難しくなることだ。たとえ新しい定理の証明を見つけることが彼らの役割でなくなっても、多数の人間の数学専門家を抱えることの価値を説明する良い方法を、私たちは至急考える必要がある。

署名しなかった最後の理由は、この書簡が「すでに起きていること以外に」何を求めているのか、よく分からなかったからだ。数か月もすれば、主要な数学の問題を解ける LLM が公開される可能性が高いし、より日常的な問題には全く困らないだろう。どれほど残念でも、そうしたモデルの数学への影響が AI 企業の公開を止めさせることはありえない。ただし安全への懸念が多少の遅延をもたらし、適応の仕方を考える時間を少し与えるかもしれない。公開されるなら、望むと望まざるとにかかわらず新結果の洪水が来る。そしてもはやそれを生み出すのは AI 企業だけではないだろう。もっとも、AI 企業がより強力なモデルにアクセスできるため、見出しになる結果のうち妥当な分を超えて得るという構図は続くかもしれないが。したがって、AI 企業が「多すぎる解答を、速すぎる速度で生み出している」と批判しても得るものはないと感じた。実際、それはいずれ起きたはずのことを数か月前倒しにするだけかもしれず、むしろモデルが公開された後に無作為な人々が発見するよりも、より制御された形で結果が発表されることを可能にするかもしれない。こうした状況では、私たちにできる最善は、訪れつつある変化を認識し、それに対処する最も不満の少ない方法を見つけ出すことだと考えている。