擬人化を足さずに「AI」について話す方法

Emily M. Bender と Nanna Inie は AI の擬人化表現をやめるべきだと主張する。どの言い回しが擬人化かを気づき、代わりの表現を探し、習慣にするという三段階。

日本語
コピー
深色底图上是一句话被逐词替换的示意,拟人化的措辞被划掉、换成更准确的表达

Tech Policy Press に寄せた論考(「AI」の話し方を話し合う必要がある)で私たちは、擬人化した言葉づかいのせいで、いわゆる「AI」技術が実際に何をしているのか、いつ使うべきか、そもそも使うべきかが説明しにくくなると指摘し、そうした言い方はやめるべきだと論じた。とはいえ、こうした表現はすっかり定着しているので、新たな話し方・書き方の習慣を身につけるには相応の努力がいる。少なくとも次の三段階だ。

  1. どの言葉づかいが擬人化なのかに気づく
  2. 代わりの言い方を見つける
  3. その言い方を使う習慣を身につける

私たちは研究(論考で概要を示した)の中で、最初の二段階に取り組んできた。擬人化した言葉づかいを分類し、分類ごとに使える代替表現を整理してきた。

脱擬人化した言葉づかいとは、コンピュータシステムについて語るときにその機能(人が何のために作り、何に使うのか)を語ることであり、能动性をシステムではなくシステムを使う人に帰し、認知能力を高く見せる比喩を避けることだ。

目指したのは、できるだけそのまま使えて、余計な説明がいらない代替表現を見つけることだった。(もちろん、「なぜそう呼ぶのか」と聞かれたら、それも格好の切り出しになる。)

書き換えた表現の中には、少しぎこちなく感じられたり、擬人化した略称より長かったりするものもある。つまり使うには少し粘りが要るが、それは悪いことではない。自分が使っている技術、あるいは話題にしているだけの技術が実際に何をしているのか、立ち止まって考えるべきなのだから。

以下、Inie et al 2026 で特定した擬人化表現の分類ごとに見ていき、それぞれの脱擬人化の例を挙げる。

私たちの提案

認知する者と認知の産物

この分類はきわめてよく見られる。マーケティング用語である artificial intelligence 自体がそう使われているからだ。思考をアルゴリズムの側に置く言葉づかいである。私たちはこう言い換えることを勧める。ソフトウェアが計算その他のアルゴリズム処理を実行していると述べ、思考はシステムを使う人に帰す。(これらのシステムを使う人が明らかに考えていない場合もあるが、それでも考えるのはその人たちだ。)

例:

artificial intelligence → probabilistic automation hybrid intelligence → augmented human intelligence image recognition → image labeling speech recognition → automatic transcription the model shows bias → the model reflects bias model mistakes → model errors chatbots are good at … → chatbots are good for … hallucination → undesirable output

goal → success condition

一般に、技術を指すのに artificial intelligence や AI を使うのは避けるよう勧める。AI 産業についてはこれからも語る。それはある事物の名称だし、AI をイデオロギーとして論じることもある。しかし、指しているのが具体的な技術システムであるなら、そのシステムそのものを言うほうが常に良い。特定の製品かもしれないし、自動文字起こしのような特定の機能を持つシステムかもしれない。いずれにせよ、システムを同時に擬人化しない名称を探す価値はある。もっと一般的な呼び方が要るなら、上で挙げた probabilistic automation は「AI」として売られているものの多く(すべてではない)に当てはまる。

hallucination もこの分類に入る。本来の意味は存在しないものを知覚することであり、ソフトウェアシステム(とりわけ対話シミュレータ)はもちろん何も知覚しない。私たちが示した一対一の置き換えは undesirable outputs だが、同じくらい大事なのは、LLM の出力はすべて確率的に生成された合成テキストだという点だ。システムの側では、望ましい出力と望ましくない出力に本質的な違いはなく、違いはそれを解釈する人の側にしかない。

Emotion

この分類の言葉づかいは、ソフトウェアシステムに感情生活があるかのように示唆する。ここでは特にお勧めの書き換えを挙げない。コンピュータに感情状態はないという自明な事実を繰り返す以外に、コンピュータの感情状態を正確に語る方法はないからだ。この分類でおそらく最も微妙な点(したがって言語学者にとって最も面白い点)は、感情体験へのこうした暗黙の言及が思いがけない形で紛れ込むことだ。ChatGPT が何かをするのに struggles と言えば、あるいはある出力を引き出すのに coax しなければならないと言えば、感情状態を持つかのように記述していることになる。

コミュニケーション

これらの語は、自動化システム——たいていは合成テキストを押し出す機械——を人間と対等のコミュニケーションの位置に置く。Claude に何かを「ask」すれば、Claude を対話相手として記述したことになる。ask、say、inform、discuss といった動詞は使わず、コンピュータに合った input と output を使う。あるいは、シミュレーションだという事実を表に出す手もある。

例:

prompt → テキスト入力 answer → 出力 chatbot / conversational agent → 会話シミュレータ

能动性

機械に能动性を帰属させる言い方は、多くの場合、人間の利益と目的を覆い隠している。能动性は人間に帰属させるか、能动性のより弱い動詞に置き換えることを勧める。 例:

ChatGPT assisted students → the students used ChatGPT revealing the solution → displaying the solution AI agent → probabilistic, unverified software manipulator このカテゴリで避けて通れない流行語が AI agent(および agentic AI systems などの変種)だ。これは次のようなソフトウェアシステムを指す。LLM(確率的に合成テキストを吐き出す機械)やその他のコンポーネントを、現実世界に影響を与える他のシステム——もともと人間のために設計された、スケジュール調整や航空券の予約、その他の購買行動をこなすシステム——と接続するものだ。現時点では probabilistic, unverified software manipulator を勧めている。十分に耳障りな略語が作れるのが利点だ(「いや、君の PUSMic システムは使いたくない」)。もちろん他の案も大歓迎だ。送ってもらい、特にしっくりくるものがあればこのリストに加える。

人間の役割の類推

こうした言葉は、システムが人間と同じ仕事をしているかのように語ることで、この自動化があらゆる面で要件を満たしていないという事実を覆い隠し、同時に人間が実際に担っている仕事と、私たちが築いている関係を貶めている。システムを tutor や co-creator と呼ぶのは過剰な主張であり、開発者が——システムで人間を置き換えたい人々のために——開発できたらいいなと願っているものを描写しているにすぎない。 こうした言葉に対しては、アルゴリズムを人間に似た実体としてではなく、人間が使うツール(あるいは製品)として記述し、システムの機能をより明確に説明しつつ、人間を置き換える意図を匂わせない言い方を勧める。

名称と代名詞

システムを指す名称や代名詞も、それ自体が擬人化として働きうる。システムの名前は厄介だ。命名権は通常開発者にあるからだ。開発者が人間の名前を付けてしまえば、他の者はその擬人化的な選択を繰り返すか(言っているのは君たちだよ、Anthropic、そして Claude)、回りくどく言うか(Anthropic の会話シミュレータ)しかない。 代名詞は毎回選び直す必要がある。第一歩として、通常は人間(とペット)にしか使わない代名詞——he、she、単数形の they——を避ける。だがもっと微妙な選択も同じく擬人化を招く。たとえば you や them でアルゴリズムと人間を同じカテゴリにまとめてしまう場合だ。システムと人間を切り離し、包括的な代名詞を避けるのがより良いやり方だ。 例:

誰が正しいのか? → その機械の出力は正しいのか? 彼らは結果を生み出す → チームはそれ[システム]を使って結果を生み出す

生物学的メタファー

「AI」(およびその下位領域)に携わる計算機科学者は、長らく技術用語に生物学的メタファーを埋め込んできた。これらの表現は当初は単なる比喩だったかもしれないが、同時に存在しない類似性を示唆してもいる。修正するときは、こう自問してほしい。システムの機能をより正確に描写し、実際に何が起きているのかを読者により明確に伝えるにはどうすればいいか。 例:

ニューラルネットワーク → 重み付きネットワーク(Hunger 2023 より) モデルがデータを消費する → データはモデルの重みを設定するために使われる

いくつかの所感

上記の書き換えを試してみることを勧めるし、同じ発想で自分でも作ってみてほしい。最初はぎこちなく感じるかもしれないが、私たちの経験では、anthropomorphization という単語を安定して発音したり綴ったりするよりは簡単だ。多少の慰めにはなるだろう。 社会的な気まずさも伴うかもしれない。言語と文化の流れに逆らって泳いでいるのだから。だがそれ自体も報われることがある。Emily が1月の講演で、学生からこう聞かれた。「AI」に抵抗するために、友達との会話の中で、場を白けさせずに何ができるか。Emily は答えた。場を白けさせればいい! 今の状況を歩きにくい泥沼だと思うなら、棒を一本突き刺せば、他の人が立てる固い地面を作り始められる。

出典: maiht3k← ホームへ戻る