OpenAI、Partition Principle と数学

昨日、私が起きたときにはすでに三人から、OpenAI が「Partition Principle から選択公理は導けない」と発表したのを見たかと聞かれていた。その数は一日中増え続けたが、なぜそうなるのかはよく分かる。何しろ私がこの問題に並々ならぬ関心を寄せていることは有名だから。

実際、少なくとも二人には、私が Problems ページで約束したように Sam Altman にウイスキーを一瓶送るつもりかと聞かれた。答えはノーだ。なぜ送らないのか、そしてなぜ君たちが OpenAI に対して激怒すべきなのかを、これから説明する。

まずはっきりさせておきたい。私は AI の使用に全面的に反対しているわけではない。道具であり、多くの人が有用だと感じていることも、それに良いところがあることも認める。ただ、身を賭す前に、この技術が我々の分野をどう変えるのか、どう使いたいのかをもっとよく理解する必要があると考えている。だから私は数学に AI を基本的に使わない（LLM に情報を整理してもらう、役に立つインフォグラフィックを作ってもらう、メールの校正をしてもらう、といったことは喜んでやる）。私の見るところ、現時点ではそれをどう使うかの規範的な枠組みが欠けているからだ。とはいえ我々はまだ模索の段階にあり、誰かが使い、その結果が少しずつ見えてくるのを眺め、共同体としてさらに受け入れるか制限するかを決めればよい。たとえば arXiv はまさにこうしたツールのせいでレート制限を導入したし、今ではほぼすべての論文に何らかの AI に関する申告を付けるべきだろう（AI を使っていないという申告であっても、おそらく）。著者の貢献をどう評価するか、たとえばチャットログの公開を求めるか、少なくとも査読者や編集者が見られるようにするか、決める必要がある。こうした問いに向き合い、どこへ行き着くか見ていくしかない。

だが Partition Principle の話に戻ろう。OpenAI が公開したプレプリントをざっと見た（Lean コードは見ていない。Lean の実用的な使い方について私の知識はごく乏しいし、あのコードは膨大だ）。ひどいものだ。記述は不明瞭で混乱し、構成も奇妙きわまりない。用語は「どこかずれて」いて、証明されるとは思わなかった定理があり、その述べ方も非常に風変わりだ。Lemma 7.4 もそうで、こんな論文に出てくるべきものではない。Lemma 8.1 も同じだ。

それから参考文献の問題。私の Bristol model に関する論文が、対称拡大の何らかの基礎づけとして引用されているが、私なら選ばない参考文献だ。少なくとも三本は、未発表で査読も受けていない、arXiv にもない講義ノートが参考文献として使われている（うち一本は私のもので、ある命題を指すために引かれているが、その命題は私自身や他の人の公刊論文に確実に現れている）。ある問題を解決したと主張する真面目なプレプリントが、こうであっていいはずがない。

このプレプリントを、私が不慣れな部分分野の技術的細部を扱っていない集合論の論文と比べてみよう。集合論の論文はたいていざっと目を通せば、何を論じているかをおおよそ把握できる。馴染みのない用語や議論はあっても、非技術的な部分については、戦略や構成を理解できるはずだ。自分の専門、つまり選択公理に関する論文なら、ざっと流し読みするだけで、著者が何をしたか（あるいはしようとしているか）をだいたい掴める。いつも正しいわけでも、著者の意図を正確に読み取れるわけでもないが、15 年以上これをやってきて、どういうものかはもうよく分かっている。ところが OpenAI の Partition Principle の論文では、それがまったくできない。

いや、これが学術誌に投稿された論文なら、この品質では編集者の段階で即座に却下されるべきだ。論文を読める水準にする責任は、常に著者側にある。Proceedings of the American Mathematical Society にスウェーデン語で書いた論文を送れば、まず間違いなく即却下されるのと同じだ。読者に読めるようにする責任は著者にある。問題はまさにそこにある。

OpenAI が数百の「解答」を投げつける。読んでも分からない「解答」、そして我々は皆それに飛びつくべきで、それから？ 彼らの貢献に感謝しろと？ なぜだ？ 私は複数の論文を仕上げるのに忙しく、何人もの博士課程の学生を抱え、自分自身の研究も山ほどある。ろくに書かれていない論文を読み解く時間などどこにある？ 彼らが分かりやすく書く手間すら惜しむなら、なぜ私がその手間を引き受けねばならない？

OpenAI のプレスリリースは「進展」をほのめかしているだけだ。しかし他の人々にとっては、メディアが一度回せば、それは「解答」になる。実にうまい両取りだ。だが我々がこれを本気で受け止めるなら、これはサービス拒否にほかならない。他のすべてを止めて、まずこれを解明せよ、と。何年も一つの問題に取り組んできた人ならそうするかもしれないが、全体としては……やめておこう。これが進展を共有する真剣な試みなら、文章の質はもっと高くあるべきだし、この分野を本当に理解した専門家が関わっているべきだった。OpenAI は忙しい会社だが、本当に助けたいと思うなら、数学者に連絡して意見を求める時間くらい捻出できるはずだ。少なくとも出力の質について意見を聞くくらいは。これがたとえ大きな前進であっても、受け入れられる水準にはほど遠いのだから。とはいえ、ChatGPT が長年の未解決問題を解いたと誰でも主張できる（今回の Partition Principle に関する問題は百年以上前からある）。OpenAI が気にする必要などあるだろうか？

では我々数学者に残されたものは何か。残るのは一般の人々、資金提供機関、政策立案者たちだ。彼らは学者でも専門家でも数学者でもなく、数学研究がどう行われるかにも詳しくない（何しろ生物学や心理学や文献学の研究とはまるで違う）。彼らはこうした「成果」を見て、数学者をロボットに置き換えられると思う。それは料理人を台所道具に置き換えるようなものだ。包丁が自動で、勝手に野菜を切ってくれたとしても、食べたいと思える一皿が目の前に出てくるまでには、まだ途方もない隔たりがある。

私の見るところ、AI テック企業は、時間と労力を割いて我々の基準に合わせようとするより、我々に自分たちの基準へ合わせることを望んでいる。あいにく、それでは話にならない。だから近いうちに、Sam Altman にウイスキーを一瓶送るつもりはないし、あの論文を読んで理解しようと努める時間を割く気もない。