怎样谈论「AI」而不给它添上人格

Emily M. Bender 与 Nanna Inie 主张弃用拟人化的 AI 说法:先察觉哪些措辞在拟人化,再找替代说法,最后养成习惯,三步走。

中文
复制
深色底图上是一句话被逐词替换的示意,拟人化的措辞被划掉、换成更准确的表达

我们在 Tech Policy Press 的评论文章(《我们需要谈谈如何谈论“AI”》)中提出,拟人化语言让人更难把所谓“AI”技术究竟在做什么、何时该用、是否该用说清楚,应当弃用。但这类说法如今已经根深蒂固,要养成新的说话和写作习惯得下功夫。这功夫至少分三步:

  1. 察觉哪些用词是在拟人化
  2. 找到替代说法
  3. 养成使用替代说法的习惯

我们在研究(评论文章中有概述)中一直在做前两步:把拟人化语言分类,再按这些类别整理出可用的替代说法。

去拟人化的语言,谈论计算机系统时说的是它的功能(人们造它、用它来做什么),把能动性归于使用系统的人而非系统本身,并且避免使用那些抬高认知能力的隐喻。

我们的目标是找到尽量一目了然的替代说法,让你直接拿去用,不必额外解释。(当然,如果有人问“你为什么这么叫它?”,那也是个很好的开场。)

有些改写读起来可能有点别扭,也比拟人化的简写更长。这意味着用它们需要多一点坚持,但这未必是坏事。我们本就该停下来想一想,自己正在使用、甚至只是在讨论的技术,实际到底做了什么。

下面我们按 Inie et al 2026 中识别出的拟人化语言类别逐一来看,并给出每一类的去拟人化示例。

我们的建议

认知者与认知产物

这一类极其常见,因为营销术语 artificial intelligence 本身就是这么用的。这类语言把思考安在算法身上。我们建议改为:描述软件在执行计算或其他算法操作,把思考归于使用系统的人。(有些情况下,人们用这些系统时显然没在思考,但该思考的仍然是他们。)

示例:

artificial intelligence → probabilistic automation hybrid intelligence → augmented human intelligence image recognition → image labeling speech recognition → automatic transcription the model shows bias → the model reflects bias model mistakes → model errors chatbots are good at … → chatbots are good for … hallucination → undesirable output

goal → success condition 总的来说,我们建议在指代技术时避免使用 artificial intelligence 或 AI。我们仍然会谈论 AI 产业,因为那是一个事物的名称,也会把 AI 作为一种意识形态来谈论。但当所指的其实是某个具体的技术系统时,永远更好的做法是直接说出那个系统本身。也许它是某个具体产品,也许它是具备某种特定功能的系统,比如自动转录。无论哪种情况,都值得去找一个不会同时把系统拟人化的名称。如果你需要一个更笼统的说法,我们上面推荐的 probabilistic automation 适用于许多(但不是所有)被当作“AI”出售的东西。 我们同样把 hallucination 归入这一类,因为它的原义是指感知到并不存在的东西,而软件系统(尤其是对话模拟器)当然不感知任何东西。我们提出的一对一替换说法是 undesirable outputs,但同样重要的是要知道,所有 LLM 输出都是按概率生成的合成文本;在系统这一侧,desirable 与 undesirable 的输出之间没有本质区别,区别只存在于解读它们的人那里。

Emotion

这一类说法会暗示软件系统拥有情感生活。我们在这里没有特别推荐的改写方式,因为除了重申那个显而易见的事实——计算机没有任何情感状态——之外,并没有准确的方式来谈论计算机的情感状态。这一类里也许最微妙(因而对语言学家来说最有趣)的一点是,这些对情感体验的暗指会以出人意料的方式溜进来:如果你说 ChatGPT 做某件事时 struggles,或者说你得 coax 它才给出某种输出,你就是在把它描述成仿佛拥有情感状态。

沟通

这类词把自动化系统——通常是合成文本的挤出机器——摆在与人类同等的沟通位置上。如果我们“ask”Claude 某件事,就等于把 Claude 描述成了对话伙伴。不要用 ask、say、inform、discuss 这类动词,改用适合计算机的 input 和 output。另一种做法是把模拟这一事实摆到台面上。 示例:

prompt → text input answer → output chatbot / conversational agent → conversation simulator

能动性

把能动性安在机器身上的说法,往往是在掩盖人的利益和目标。我们建议改写为把能动性归于人,或者换用能动性更弱的动词。 示例:

ChatGPT assisted students → the students used ChatGPT revealing the solution → displaying the solution AI agent → probabilistic, unverified software manipulator 这一类里绕不开的流行词是 AI agent(以及 agentic AI systems 之类的变体)。这个词指的是这样一类软件系统:它们把 LLM(概率性的合成文本挤出机器)和/或其他组件,与能够影响现实世界的其他系统连接起来——也就是那些原本为人设计的系统,用来安排日程、订机票或完成其他购买行为。我们目前建议用 probabilistic, unverified software manipulator,好处是能凑出一个足够难听的缩写(“不用了,我不想用你的 PUSMic 系统。”)不过我们完全欢迎其他方案!发给我们,如果有特别贴切的,我们会加进这份清单。

人类角色类比

这类词把系统说成在做和人相同的工作,从而掩盖了这种自动化在各方面都达不到要求的事实,同时贬低了人实际从事的工作和我们建立的关系。把系统称为 tutor 或 co-creator 是过度宣称,描述的是开发者希望自己能开发出来的东西——为的是那些想用系统取代人的人。 对这类词,我们的建议是用语言把算法描述成人使用的工具(或产品),而不是类人的实体,同时更清楚地说明系统功能,也不透露出取代人的意图。

名称与代词

我们用哪些名称和代词来指代系统,本身也可能起到拟人化的作用。系统名称要棘手一些,因为命名权通常归开发者所有:一旦他们用某个人的名字来命名,其他人就只能跟着重复这个拟人化的选择(说的就是你们,Anthropic,还有 Claude),要么绕来绕去(Anthropic 的对话模拟器)。 代词则是每次都要重新选的。第一步,先避开通常只用于人(和宠物)的代词,比如 he、she,以及单数 they。但更细微的选择同样会拟人化——比如用 you 或 them 把算法和人归为一类。把系统和人分开,避免使用统称代词,是更好的做法。 示例:

谁说得对? → 机器的输出是否正确? 他们产出结果 → 团队用它[系统]产出结果

生物学隐喻

在“AI”(及其子领域)中工作的计算机科学家,长期以来一直在技术术语里嵌入生物学隐喻。这些说法起初或许只是比喻,但它们同时也在暗示一种并不存在的相似性。修改时,问问自己:怎样才能更精确地描述系统功能,让读者更清楚地知道实际发生了什么。 示例:

神经网络 → 加权网络(出自 Hunger 2023) 模型消耗数据 → 数据被用于设定模型权重

一些感想

我们鼓励你试试上面这些改写,也照同样的思路自己造一些。一开始可能会觉得别扭,但以我们的经验,这比稳定地念出或拼出 anthropomorphization 这个词要容易,所以也算有点安慰。 它还可能带来一点社交上的尴尬,因为你是在逆着语言和文化的潮流游,但这本身也可以是有回报的。在 Emily 一月的一次演讲上,有学生问她:在和朋友的交谈中,怎样才能为抵抗“AI”出份力,又不至于扫大家的兴。Emily 说:就扫大家的兴!如果你把当前的处境想成一片难以行走的泥沼,那么插下一根棍子,你就能开始为其他人造出一块可以站上来的硬地。

来源: maiht3k← 返回首页