もっとたくさんの数学者が必要になる

[これは Amit Sahai によるゲスト投稿です。このブログ記事はもともと別のファイル形式で書かれ、その後 AI によって変換されました。——T.]

学部生の頃、何人かの同級生と話したことがある。彼らは、優秀な学生が新しい数学の概念を理解する速さは自分たちには速すぎると感じていた。彼らもそのアイデアは理解できた。ただ、ずっと長い時間がかかっただけだ。結局、彼らのほとんどは数学の研究を志すことを諦め、別の道に進んだ。ここ数日、その同級生たちのことを考えている。

数学の研究コミュニティでは、ほとんどの人が、そうした感覚をほとんど味わったことがないか、味わっても苦労して乗り越えてきたかのどちらかだ。私たちは運がよかった。数学の中に、進歩を生み出せる場所を見つけられた。だが今は謙虚になるべきときだ。私たち全員が、ついていけないとはどういうことかを味わうことになる。

私が接してきた AI システムは、すでに美しい新しいアイデアを生み出している。それは驚くべき計算や、優秀な人間の研究者がもともと理解できたはずの論証を素早く出す、といったことにとどまらない。将来のシステムがどんな見事な発想を生み出すかは、おそらく私たちには想像もつかない。

ついていけないと感じたとき、私たちはかつての同級生たちのように、それを数学の研究から離れる理由にするのだろうか。そうした経験をする人が増えれば、彼らと同じ結論に至る人が出るのは間違いない。機械のほうがはるかに速いのだから、別のことをしたほうがいいのではないか、と。

私たちのコミュニティにとって、この仕事を理解することを手放すのは、人類としての責任に対する重大な背信になる。人生の選択は誰にでもある。私が言っている責任は、私たち集団のものだ。世界を変えるような発見を人間が理解し、それに貢献できる未来をつくること。人間が実質的な主体性を保てる未来をつくることだ。

困難な概念を理解するには、もがくことが不可欠だ。ありがたいことに、そのもがきは分かち合える。私は学生や共同研究者のおかげで、それを何度も経験してきた。多数の研究グループがそれぞれ継続的な支援を受け、一学期あるいは一年をかけて、AI システムが生み出した非凡なアイデアの集合を、AI システムの助けを借りて理解する——そんな姿を想像してほしい。[1]

これは今後数年のうちで最も重要な数学の仕事の一つになる可能性が高く、それに見合った支援と優先順位づけが必要だ。画期的なアイデアが積み重なっていけば、この事業には、数学の素養を持つ研究者を世界的に大幅に増やすことが求められる。

社会はなぜそうすべきなのか。ここまでは、人間の理解の深さに重きを置く文明、数学者や物理学者であふれる文明、といったユートピア的な空想を描いているように聞こえたかもしれない。私自身、そんな世界に住みたいと思う。社会がこの方向に進むことには、深い哲学的根拠もある。だが、それを可能にすることには、社会にとってより切実な利害もあると考えている。

将来の AI システムが、1 テラワットの核融合発電所のまったく新しい設計を提案したとしよう。誰も思いつかなかった方法で核融合を維持し制御する方法を見つけたのだ。その設計が実現すれば、豊富で安価でクリーンな電力が手に入る。部品を製造し発電所を建設するロボットもすでにいる。

1 テラワットは常軌を逸した電力だ。私たちが決めなければならないのは、人類が思いつきもしなければ実践したこともない原理に基づいて、途方もないエネルギーの流れを制御する機械を建設するかどうかである。故障はどう抑え込まれるのか、システムが停止したとき内部に蓄えられたエネルギーはどうなるのか、発電所を構成する材料が想定どおりに振る舞うとどう確信するのか、着工前にほかにどんな問いを立てるべきか——それを解明する必要がある。この計画をわくわくさせるのはその新しさであり、その新しさゆえに、類似の発電所や実験を数十年運用してきた経験から自信を引き継ぐことはできない。

建設を承認する前に、私は人類のコミュニティが、この設計がなぜ成り立つのか、そしてなぜその安全性に自信を持てるのかを理解してほしい。私たち全員がそれをできるようになってほしい。

人間が関与すれば技術的な意思決定が自動的に良くなるわけではない。また、AI システムのほうがより確実にできる仕事を人間が手作業で繰り返せと主張するつもりもない。そこに数学的な保証の証明が含まれていても、だ。だが定理はあるモデルの内部にしか存在しない。保証を理解するとは、そのモデルを、それを支える実験的証拠を、そしてモデルの正確さに対する私たちの不確かさを理解することだ。これは要求の高い仕事であり、数学の素養を持つ人が関わらなければならない。

こう反論する人もいるだろう。そうした問いも AI システムが扱うべきで、最終的には発電所を建てるかどうかも AI が決めればいい、と。これは真剣に受け止めるべき立場だ。ただしそれは、結果が極めて重大な決定が、どの人間コミュニティも理解していない根拠に基づいてなされる未来を受け入れることを意味する。

自分たちの理解する力を育てることに投資してこなかったというだけの理由で、そんな未来に進みたくはない。人間の主体性は根本的に重要な価値だ。代替案を真剣に検討し、どんな世界を築くことに関わりたいのかを自分たちで決める——その力を保たなければならない。それには努力する価値があると思う。[2]

この責任を果たすには、数学者が何に貢献できるかという見方そのものを広げる必要があるかもしれない。私が思い描いているのは、いわば「配備可能な知的予備軍」のようなものだ。人類が必要としたときに助けを求め、AI がもたらした影響の大きい突破口を理解するのを手伝ってもらえる、数学の素養を持つ人々のコミュニティである。

困難で馴染みのないアイデアを理解する私たちの力は、社会に対して私たちがなしうる最も重要な貢献の一つになりうる。その力を、日々の研究上の関心をはるかに超えた問題に持ち込む用意があるべきだ。[3] そのためには、自分の職業についての想像力を広げる必要がある。

一つの反論はこうだろう。AI システムのおかげで一人ひとりの効率がはるかに上がり、発見のペースが速まっても、この仕事をする人はもっと少なくて済むのではないか。だが私たちは一人ひとり、ただの人間だ。生物学的な根本的制約から逃れられない。理解の深さには時間がかかり、人間が耐えられる生活のリズムが要る。個人に求められることには限りがある。しかし誠実に協力すれば、はるかに多くを成し遂げられる。

AI がその約束を果たせば、これまでにないほど美しく、はるかに深い意味を持つアイデアが手に入る。私たちはそれに、人々がともにそのアイデアを理解できる、豊かな人間のコミュニティを築くことで応えなければならない。

数学者がもっと必要だ。

ここに記した考えや意見は完全に私個人のものであるが、GPT 6 Astraはこのノートの下書きを手伝う上で大きな役割を果たした。以前の学生Dakshita Khurana、現在の学生Isaac Hair、同僚のTerence Tao、そして家族のAnant SahaiとGireeja Ranadeから貴重なフィードバックをもらったことにも感謝する。ここにはまだ展開できる話がたくさんあるが、主なアイデアに集中するため、できるだけ短くまとめた。

注

[1] こう言っているからといって、将来はAIが生み出した成果だけが注目に値すると示唆しているわけではない。ただ、人間が生み出した重要な成果については、それを長い時間かけて研究してきた伝統がすでにある。

[2] しかも、その理解は技術を生み出した組織だけのものでは済まない。公開の公聴会を想像してみてほしい。技術的な議論についていけるのが、その企業の専門家だけだったらどうなるか。独立した専門知識が不可欠なのだ。

[3] 実際、AIシステムは、背景の異なる研究者どうしが効果的に意思疎通し、なじみのない概念をより広く理解するのを大いに助ける可能性が高い。