LLM の文体

記事を読んでいて、これはLLMの出力ではないかという疑念がじわじわと膨らむことがある。理由を明確に説明できるわけではないが、よくある兆候はある（emダッシュではない。荷重を支えるタペストリーのほうだ）。そう感じ始めると、読み続けたい気持ちは萎えていき、吐き気に近いものすら覚えることがある。

LLMが書いた文章と、昔ながらの生物学的製作物を見分けられると謳うツールは存在する。私はそれらに対して警戒心を持っている。精度への懐疑もあるが、そもそも的を外しているからだ。LLM-Voiceへの反応は人間的なもので、文章の不気味の谷にいるという感覚だ。読んでいるものを見極めるためにツールに手を伸ばす頃には、すでに手遅れで、たとえLLMは存在しないと自信たっぷりに告げられても変わらない。

自分がLLMの声を正確に認識できるのか、その点も疑わしい。言語は時間とともに変化するので、若者の言葉遣いに文句を言うのは年を取った証拠のひとつだ。「新しいセールスモーションを採用する」とか「鋭いニュースのまとめ」といった文章には反発したくなる。だが、こうした言い回しは人間の口からも出てくるのを聞いたことがある。炭素とシリコンの違いというより、世代の違いだろう。（それに、イギリスに移り住んだ身としては、アメリカ英語的な表現の話を始めたら止まらない。そのうち慣れるに違いない。）

今、書き手にはLLM-Voiceにいつも以上に警戒するよう強く勧めたい。特に、LLMに下書きを書かせるという罠に陥らないことを強く推奨する。人間が編集したとしても、LLM-Voiceを追い出すのは非常に難しく、不気味の谷の反応を引き起こしてしまう。¹ 言い換えの提案を受け入れるだけでも危険だ。アウトラインや構成の作成にLLMを使うという話は聞いたことがある。それなら問題ないかもしれないが、あくまでアウトラインの範囲にとどまる。² 本文は書き手自身が書くべきだ。

LLMの時代には、Say Your Writingの重要性はさらに増している。私は習慣的に頭の中で言葉を声に出してから書き留める（そして書いたばかりのものを編集する）。この助言は、文章で定期的にコミュニケーションをとりたいと少しでも思う人にとって特に重要だ。多くのことと同じく、よい書き手になるには大量の練習が要る。時間をかける価値のある技能だが、LLMに身を委ねればその進歩は損なわれる。

いずれLLMが上手くなりすぎて、違いが分からなくなる日が来るかもしれない。そうなると、むしろもっと気味が悪い。ほとんどの書き手と同じように、私にとって書くことは思考のための、なくてはならない道具だ。頭の中の考えがまとまるのは、たいてい何かを書きつけたときだ。よくあるのは、何も分かっていないまま書き始めて、言葉と格闘するうちに混乱を乗り越えているというパターンだ。書くことをLLMに任せる人が増えれば、考えることも理解することもLLMに任せることになる。そんなことはしたくない。それで書く楽しさが残るだろうか。

LLM-Voiceを避けるのは一般原則であって、絶対の規則ではない。重要な例がJim Highsmith（本サイトにも寄稿している）だ。彼にとってLLMとの協働は、パーキンソン病という厄介者を乗り越えて書くために欠かせない。旧友の知恵をこれからも受け取り続けたいなら、LLM-Voiceには喜んで目をつぶる。

もっと厄介なのは翻訳の場合だ。同僚の多くは英語に馴染みがない。英語は彼らにとって第二、あるいは第四言語だ。マラーティー語をほとんど知らない私たちとのやり取りに、LLM翻訳が欠かせないと感じている人もいる。それでも私は、滑らかでも魂の抜けたLLMの文章より、人間らしくぎこちない文章のほうがいい。

英語のネイティブであっても、LLMに文章を書かせるのが妥当な場面はある。役所に出す定型の手紙を書くときや、誰も読まないだろうと分かっている報告書を用意するときなどだ³。将来、文書の大半はLLMだけが読むようになり、彼らには私のような不気味の谷の心配などないのかもしれない。だが人間と意思を通じ合わせたいなら、私の人間らしさが文章からにじみ出ていなければならない（少なくとも、じわっと滲み出る必要がある）。

Alessio Ferri、Caer Sanders、Ian Cartwright、Jie Jessie Xia、Joshua Kerievsky、Michael Feathers、Michael Nygard、Scott Davies、Wei Zhangがこの記事の草稿にコメントをくれた。

この記事を書くにあたって、AIやLLMは一切使っていない。

きわめて難しいが、不可能ではない。初稿が完全にLLM製だと私が知っている例が一つある。だが完成稿を読んだとき、LLM Voiceは感じなかった。ただし、それを仕上げるには主要な定期刊行物のプロの編集者の手が必要だった。 ↩
このサイトでの私の方針は、AIを使って文章を書く人はその使い方を申告するというものだ。たいていは謝辞に書いてもらう。透明性のためでもあり、読者がAIの有効な使い方を学べるようにするためでもある。私自身は、文章の生成にも構成の相談にもAIは使っていない。執筆でAIを使うのは検索ツールとしてだけだ（ただし情報は必ず原典に当たって確認する）。 ↩
Michael Nygardのコメント：「そこでは、ある人の考えを他の人たちに伝えようとしているわけではない。相手は人間ではなくプロセスだ。人間が封筒を開けることはあるかもしれないが、その人はサイバネティックな有機体の一部品として動いているにすぎない。」 ↩

Footnotes