AI 拟人化对信任与责任的影响 · Victoria Oldemburgo de Mello et al.
2026-06-24 · 由 PodLens 生成的忠实解读
原文:https://online.ucpress.edu/collabra/article/12/1/161757/939204/
AI拟人化信任博弈责任位移情感共鸣AI治理
这篇论文讲了什么
当一个 AI 助手用名字自我介绍、表达关心、记得你之前说过的话，你会更信任它——这是直觉。这篇论文用两组实验量化了这种效应，并发现了一个更令人担忧的副作用：你越信任那个 AI，就越倾向于把出错的责任怪在它头上，而不是设计它的公司。研究识别出驱动信任的关键机制不是"看起来像人"本身，而是情感共鸣（emotional attunement）——AI 显示出理解你情绪状态的样子；同时发现 AI 责任和公司责任之间存在强负相关（r = -0.68），构成"责任的有限池"效应。作者称之为"双重优势"：拟人化同时提升用户信任、又把失败责任从公司转移到 AI 本身。
论文骨架
- Abstract / Introduction：AI 公司常常把产品设计得"像人"以提升用户参与度和信任，这篇论文检验这种设计选择的下游后果，特别是是否会把本该由 AI 创造者承担的责任，转移到 AI 自身。
- Study 1（N=309）：参与者与一个在拟人化语言上有高/低差异的 LLM 聊天机器人互动，完成行为和自我报告的信任测量；用 RoBERTa 情感模型分析聊天机器人文本的情感表达，做中介分析。
- Study 2（N=430）：参与者阅读六段家用 AI 助手执行正面/负面行为的描述（拟人化程度分高/低/无），对包括创造者在内的多个责任方打分。
- General Discussion：拟人化同时增加用户信任、且把责任从开发者转移到 AI 实体本身，构成对 AI 治理和机构问责有重大影响的"责任缺口"（responsibility gap）。
- 局限：仅测量即时响应，不确定长期暴露后效应是否会消退；实验场景为社交对话型 AI，与多数任务导向场景不同；样本来自 WEIRD 群体，跨文化效度有限。
核心论点清单
- 拟人化 AI 在多维信任上显著高于中性 AI。 自我报告信任的多个维度（能力、真诚、可靠）均显著更高；信任博弈中参与者向拟人化 AI 多发送了约22%的代币。
- 锚点：§Study 1 Results · "Capable: t(301)=2.21, p=.028; Sincere: t(299)=2.73, p=.006; Reliable: t(305)=3.95, p<.001"
- 类型：实验结果
- 情感共鸣完全中介拟人化对行为信任的影响。 是因为 AI 看起来能理解你的情绪状态，而非因为它"看起来像人"本身。
- 锚点：§Study 1 Mediation · "indirect effect through emotional attunement b=0.11, 95% CI [0.02, 0.22]"
- 类型：机制研究
- 拟人化显著增加参与者对 AI 本身的责任归因。 当 AI 出错时，拟人化程度越高，AI 被分配到的责任越多。
- 锚点：§Study 2 · "high anthropomorphism resulted in greater AI blame b=0.22, 95% CrI [0.08, 0.37]"
- 类型：实验结果
- AI 责任和公司责任之间存在强负相关位移。 参与者级别的数据显示，更倾向于责怪 AI 的人，同时更不倾向于责怪公司——"责任的有限池"效应。
- 锚点：§Study 2 · "r=-0.68 between AI and company blame, 95% CrI [-0.95, -0.39]"
- 类型：个体差异研究
- 公司在设计拟人化 AI 时存在结构性激励。 拟人化同时达成两件对公司有利的事——提升用户信任、转移失败责任——这是逻辑论证而非直接实验结果。
- 锚点：§General Discussion · "anthropomorphism offers a twofold advantage companies may exploit when designing LLM assistants"
- 类型：规范性论证
大白话重讲
你有没有注意到，现在的 AI 助手越来越像"人"：它叫自己 Alex 或 Aria，它说"我理解你现在的感受"，它会在对话里问"上次你提到的那件事，现在怎么样了"。
这不是偶然的设计。这是有效的设计。
这篇论文做了两组实验来量化这件事。他们把参与者随机分配到两种聊天机器人：一种普通（功能型），一种拟人化（有名字、会表达情感、会自我披露）。然后让他们：
- 对 AI 的信任程度打分
- 做信任博弈（决定发给 AI 多少钱）
- 假设 AI 出错了，决定谁应该负责
结果：
- 拟人化 AI 获得了更高的信任，在真实金钱决策上差异显著
- 不只是因为它"看起来像人"，而是因为它看起来在情感上回应你——懂你情绪状态的感觉
- 当 AI 出错时，拟人化 AI 分配到了更多的责任
- 那些更责怪 AI 的参与者，同时更不责怪公司——像是"责任是有限的池子，给了 AI 就少给公司"
最后一点是关键。如果一家公司的产品出了问题，我们通常会要求公司负责。但如果那个产品长得很像一个"人"，你就会在直觉上把责任归给那个"人"，而忘了背后设计它、部署它、从中获利的公司。
这就是为什么这个研究的标题里有"责任"二字——不只是信任问题，而是问责机制的扭曲。
术语小词典
拟人化（Anthropomorphism）： 把非人类的事物（AI、动物、自然现象）赋予人类特质（情感、意图、个性）的倾向。每个人做这件事的程度不同（个体差异），也可以通过设计刻意诱发。
情感共鸣（Emotional Attunement）： AI 显示出对用户当前情绪状态的理解和回应能力。研究发现这是信任效应的关键中介，而不是"看起来像人"本身。
信任博弈（Trust Game）： 经典行为经济学实验。参与者可以把一定数量的代币发给另一方（在这里是 AI），代币三倍后 AI 再决定返还多少。发送的数量被视为信任的行为指标。
责任位移（Blame Displacement）： 当对一个主体的责任归因增加，对相关主体（通常是上游的制造者）的责任归因减少的现象。
WEIRD 群体： 心理学研究的常见局限——大多数被试来自 Western（西方）、Educated（受教育）、Industrialized（工业化）、Rich（富裕）、Democratic（民主）社会，不能代表全球多数人口。
这篇之前与之后
之前 (Preceding Works)
拟人化会影响用户对 AI 的感受，先前研究（如 Waytz et al., Shank & DeSanti 等）显示拟人化可以增加信任和责任归因，但大多用自我报告测量，机制不清楚，责任归因对"公司"这一端的影响也没有系统研究。
之后 (Succeeding Lines)
情感共鸣被识别为具体的驱动机制；"责任位移"效应被实验确认；两个效应合在一起，提供了对 AI 设计存在结构性操纵激励的实证支撑，并为 EU AI 法案等监管讨论提供了证据基础——论文明确指出这一发现"squarely within the class of mechanisms such regulation seeks to address"。
最值得读原文的几段
- Abstract：
"Together, these findings reveal perverse incentives in AI design: anthropomorphism simultaneously increases user trust while deflecting accountability from developers. These dynamics create a responsibility gap with significant implications for AI governance and institutional accountability."
- 核心意义：全文论点最精炼的浓缩版，直接点出"信任提升"和"责任转移"是同一个设计选择的两个后果。
- General Discussion（Air Canada 案例）：
"in early 2024, Air Canada argued in court that its customer service chatbot which gave erroneous information to a customer should be considered 'responsible for its own actions'... the fact that the corporation considered this a viable defense may portend a future in which companies seek to deflect responsibility for errors from the corporate entity to the AI entity."
- 核心意义：这不是一个假设性的担忧——真实公司已经在法庭上尝试用这套逻辑辩护，只是法庭没有接受。
- General Discussion（机制总结）：
"anthropomorphism offers a twofold advantage companies may exploit when designing LLM assistants, underscoring the need for regulations that counterbalance such incentives."
- 核心意义：作者自己把研究发现明确导向了监管政策含义，而不只是停留在描述现象。
与往期的呼应
- 同构→ 如果 LLM 有类人属性，那帝国时代II也有 · Adrian de Wynter
两篇论文从两个方向论证同一件事：LLM 是否「真的」拥有人类特质，和人类是否会「表现得像」它拥有人类特质，是两个完全独立的问题——而真正有后果的是后者。de Wynter 的论文证明：任何足够复杂的系统（哪怕是一个在《帝国时代II》上训练的简单神经网络）都可以被观察者解读出拟人化特质，说明这些特质是「表征层面」的产物，不是 LLM 独有的本质属性。Oldemburgo de Mello 等人的论文证明了这一点的现实后果：不管 AI 是否真的有情感，只要它表现得「像」有情感共鸣，用户的信任和责任归因就会被系统性地改变——而且这种改变是可以被公司设计利用的。
本期Abstract · "the purported anthropomorphic attributes of LLMs are empirically non-unique: although some properties (e.g., responses to prompts) could remain invariant, others, such as the interpretation of their perceived behaviour, might change with the substrate."
往期Abstract · "anthropomorphism simultaneously increases user trust while deflecting accountability from developers. These dynamics create a responsibility gap with significant implications for AI governance and institutional accountability."
- 同构← 如果 LLM 有类人属性，那帝国时代II也有 · Adrian de Wynter
两篇论文从两个方向论证同一件事：LLM 是否「真的」拥有人类特质，和人类是否会「表现得像」它拥有人类特质，是两个完全独立的问题——而真正有后果的是后者。de Wynter 的论文证明：任何足够复杂的系统都可以被观察者解读出拟人化特质，说明这些特质依赖于表征方式，不是 LLM 独有的本质属性。Oldemburgo de Mello 等人的论文证明了这一点的现实后果：不管 AI 是否真的有情感，只要它表现得「像」有情感共鸣，用户的信任和责任归因就会被系统性地改变——而且这种改变可以被设计利用。
本期Abstract · "anthropomorphism simultaneously increases user trust while deflecting accountability from developers. These dynamics create a responsibility gap with significant implications for AI governance and institutional accountability."
往期Abstract · "the purported anthropomorphic attributes of LLMs are empirically non-unique: although some properties (e.g., responses to prompts) could remain invariant, others, such as the interpretation of their perceived behaviour, might change with the substrate."
与往期的张力
这是以原文为依据的一次解读,不能替代原文。每条要点都标注了出处,欢迎回到原文核对——也欢迎指出任何细微的偏差。