誰もが孤島ではない

論文を読むことから言語を設計することまで、個人の知的活動は共同体が蓄積した共有の成果と同業者からの承認に支えられている。AI はその共同体を解体しつつあり、私的な知的活動も維持できなくなっていく。

日本語
コピー
爱德华·霍普《自动机》里独坐在深夜咖啡馆的女子,黄帽绿衣,手里一杯咖啡,身后一盘水果,窗外是漆黑的街道

本文の主張はこうだ。個人の知的活動は、他者からなる知的共同体があって初めて維持される。AI はそうした共同体を解体しつつあり、私的な知的活動はますます珍しくなっている。

ソフトウェア業界の例

数年前、AI がソフトウェアエンジニアリングを解決する日が来ると明らかになったとき、私が考えていたのはこうだった。

  1. 職業人としては、一歩上がって AI agent の管理者になりたい。自分は読み書きがそこそこでき、技術ライティングも人前に出せる水準で、自分の要件を明確に伝えて AI agent にコードを書かせられる。
  2. 個人の時間には、自分が関心を持つことを続けられる。もともとそれ自体を楽しんでいるからだ。これはソフトウェアエンジニアリングの「知的」な側面だ。技術ブログや論文を読み、新しいプログラミング言語を学び、新しいプログラミング言語を設計し、技術エッセイを書き、自分の小さなオープンソースプロジェクトのコードを書く。

二つ目は実際には実現しなかった。実際に起きたのは何か。まず、ソフトウェアエンジニアリングの言説の質が落ちた。私が以前書いたとおりだ。

Claude Code のリリースからまだ一年ちょっとしか経っていない。この短い間に、ソフトウェアエンジニアリングは根本から作り変えられた。物質的な面はおそらく良いことだ。生産性は上がり、その代償はコードベースの乱れだった。社会的な面は惨事だ。

ソフトウェアエンジニアリングをめぐる言説は馬鹿になった。業界全体が一斉に知能を 30 ポイント落としたようなものだ。以前はコンパイラ、型システム、論理の話をしていた。今は「prompt」、「harness」、「loop」の話をしている。言説はより狭く、より浅く、より反復的になった。「agentic harness」などというものは、何度か聞けばもう限界だ。

次に、人的資本の蓄積が失われた。学ぶべきものがなくなった。prompt を書くのは技能ではない。少なくともソフトウェアエンジニアリングよりはるかに浅い。仕事の道具的な側面は確かに改善し、投入あたりの産出は増えたが、仕事のうち人的資本の蓄積に関わる側面は崩壊した。おそらくこれは合理的なのだろう。そもそもなぜプログラミングを学ぶ必要があるのか。コンピュータが代わりにやってくれる。そうして、良いプログラマーになるために練習しなければならなかった厳密で体系的な思考は、すっかり失われた。機械が我々の代わりに理性的になってくれる。我々は vibe すればいい。

次に、ソフトウェアエンジニアリングの共同体に貢献することはますます無意味になっている。AI 以前は、オープンソースのコードを公開し、ブログでアイデアを共有したり誰かを触発したりし、チュートリアルやフォーラム投稿、教科書といった説明的な文章を書いて人を教えられた。AI 以後、それらに何の意味がある?

  • ブログを一本書いた。誰が読む? 次の訓練がそれを取り込み、AI の能力をわずかに上げる。あるいはそのブログがマイナーな技術的問題の回避策だったとして、次に同じ問題にぶつかった誰かは Claude に聞き、Claude がそのまま解決する。あなたの名前は出ない。大規模なコードベースをどう組織するかについての洞察だったとして、誰が気にする? その決定はもう人間が下すものではない。
  • 革命的な新しいプログラミング言語を設計した。誰が気にする? もしそれが数に入るなら Claude は気にするかもしれない。しかし人間はもうコードを書かず、コードを読むことすらしない。プログラミング言語は実装の詳細になり、人間が気にする必要はなくなった。
  • ライブラリを書いて GitHub に公開した。誰が気にする? AI が見つけて使うかもしれないが、操作している人間はあなたの存在も、あなたが何をしたかも知らない。

問題は「GitHub star がもらえず、ブログにもアクセスが来ない」ことではない。あなたが貢献できる人間の共同事業がもはや存在しないことだ。自分の私有のコード庭園があり、AI の助けでそれを任意の方向へ無限に広げられる。しかし庭の外に出て、市で人と取引する必要は永遠にない。この条件では、何かを気にかけるのも、何かをするのも難しい。

だが、それは本当に重要なのか。マイナーな JavaScript の機能についてブログを書かなくなり、新しいプログラミング言語を設計しなくなったことは、重要なのか。コードを書くことは元々苦役で、今は数学のような高次の事柄に移れるのかもしれない——おっと。

知的生活

ソフトウェアエンジニアリングに起きたこと、そして数学に今起きつつあることを見ると、知的実践そのものについて一般的な洞察が得られると思う。

我々は知的活動を私的で孤独なものと捉えがちだ。哲学者が肘掛け椅子に座り、世界をゼロから演繹する。しかし知的活動には、孤立しては得られない二つの投入がある。共有された成果と動機だ。共有された成果は集団的なものだ。もっとも、技術ツリー全体を最初から登り直すつもりなら別だが。動機は二つに分けられる。

  • 内発的動機:学ぶために学ぶ、自分でもうまく言えない衝動に突き動かされて作る、など。
  • 外発的動機:David Chapman は「高貴」を、他者に仕えるために栄誉を示すこと、自分の能力を他者への奉仕に使うことと定義している。我々は自分の仕事が他者の役に立つことを望み、他者が自分の仕事から恩恵を受けることを望み、共通の人間的事業に貢献することを望む。名声、そして同業者からの尊敬と好意は、自分の貢献を測る代理指標だ。

我々は内発的動機を最も純粋なものと見なしがちだ。内から生じ、自ら創り出し、物質的あるいは社会的な利益に駆られないもの。しかしそれは感情であり、感情はすべての感情と同じく、一瞬で消える。これでむしろ合理的だ。さもなければ、我々は一生、実りのない執念に閉じ込められる。だからこそ、ひらめきが訪れる間の隙間を埋める何かが要る。外発的動機はそのためにある。

持続的で複雑な長期的私的知的活動には、材料と動機を供給する外部の知的共同体が要る。燃料と酸化剤のように。逆に、そうした私的活動が共同体を支えてもいる。論文や教科書、コードなどを発表すれば、あなたは共有された成果に何かを加え、他者がその上に続けられるようにする。誰かの論文を引用し、そのリポジトリにコードを貢献すれば、あなたはその人に承認と栄誉を与え、その人の仕事が役に立つと確認している。それがまた、その人を貢献へと駆り立てる。

共同体がなければ、得られるのはそれぞれが黙々と作業する孤立した個人ではなく、何もない。知的活動への投入は枯渇する。共有された成果に寄与する者もいなければ、あなたの知的活動から恩恵を受ける同僚もいない。この外的動機を欠けば、知的活動は減る。なぜなら——繰り返すが——内的動機は短命だからだ。

AI 以後

AI 以後、知的貢献は不要になる、あるいは余剰になる。ソフトウェアを例に取ろう。コードをすべて AI が書くのなら、コードを書くことや文章を書くことに何の意味がある? この二つを読む層はすでに大きく縮んでいる。人がコードを書かなくなれば、コードの書き方を教えるブログやチュートリアルを読むこともなく、新しいライブラリやプログラミング言語を試すこともない。数学を例に取ろう。AI は定理を証明し、論文を書き、論文を解説し、学生を指導できる。近い将来には、人間より優れた教科書を一冊まるごと書けるようになるかもしれない。ならば論文を一本書くこと、教科書を一冊書くことに何の意味がある? 純粋に余剰だ。

知的活動が不要になったら——新しいプログラミング言語を設計すること、論文を発表することに何の帰結もない、あるいは貢献すべき共同体がそもそも存在しないのなら——それは起きない。意味がない。

この論理を知的活動の他のあらゆる領域に当てはめれば、未来の姿が見えてくる。新しいライブラリやプログラミング言語を構築する個人は依然いるかもしれないが、共有されたソフトウェアエンジニアリング文化はもう存在しない。個々の学生や数学の実務家は依然いるかもしれないが、生きた数学者の共同体はもう存在しない。

なぜ我々は知的共同体を過小評価するのか

AI が精神生活に良い影響を与えると考える人々と話した。彼らの考えはこうだ。現在、あまりに多くの人が引用数や影響力といった道具的な理由で知的活動を行っている。この見方によれば、知的共同体の瓦解は良いことである。影響力を追う凡庸な大衆の中から、真に内的動機に突き動かされた übermenschen を選別してくれるからだ。

この見方は現代社会と符合すると思う。我々は内的動機を高く評価し、外的動機を低く評価する。「成熟した」人間は、私的な、尽きることのない動機の蓄えを持ち、それが外部からの報酬と因果関係を持たないはずだ、と。

しかしこれは人間についての現実的な見方ではない。人間は社会的動物であり、同種が構成する社会の中でしか繁栄できない。我々は世界に貢献することを気にかけており、そうあるべきだ。そして技術が我々の貢献を余剰にするのなら、何が残る?

謝辞

フィードバックと議論をくれた Luke Drago と Andy Matuschak に感謝する。

出典: borretti.me← ホームへ戻る