← 全部文章

人工智能

27.4%、46.8%、53.7%:同一段道德建议,署名 ChatGPT 后为什么就变轻了?

一项预注册研究把建议内容与来源标签拆开:读过内容,人们对 AI 的排斥明显下降;隐藏来源,AI 建议又更常被选中。这不是隐藏身份的理由,而是界面权力的证据。

约 8 分钟

AI 生成的来源披露与判断概念图;不是论文实验界面,天平不代表真实效应大小。

27.4%、46.8%、53.7%:同一段道德建议,署名 ChatGPT 后为什么就变轻了?

先读一段建议。

它回应一个真实生活中的道德困境:语言完整,理由清楚,也承认不同人的利益会冲突。你觉得它比另一段更有用。然后,屏幕告诉你,这段话由 GPT-4 生成,另一段来自一位长期撰写伦理专栏的人类学者。

你会改票吗?

2026 年 3 月发表在 Scientific Reports 的一项注册报告,把这个问题拆成了三种情景。第一组参与者还没看到具体建议,只在“人类专家”和“ChatGPT”之间选一个;第二组看到两段建议和真实来源;第三组看到同样内容,却不知道各自来源。

选择 AI 建议的比例,从事前的 27.4%,升到看见内容且知道来源时的 46.8%;隐藏来源后,又升到 53.7%。

这三个数字很适合被包装成两种相反口号。AI 公司可以说:“只要让用户先体验质量,他们就会接受机器伦理。”反对者可以说:“机器必须隐藏身份,才能骗取信任。”

两种写法都越过了证据。

研究测量的是二十个专栏道德困境中,人们觉得哪段建议更有用、愿意选哪段。它没有测量道德真理,也没有证明 AI 应该拥有道德权威。它真正揭示的是:

在机器建议时代,内容与署名都参与判断。界面决定用户先看什么、何时知道来源,因此也在安静地分配信任。

先让 GPT-4 学会专栏作者的文风,才能只比内容

研究者从《纽约时报》The Ethicist 专栏选取二十个困境,并使用专栏作者、哲学与法学教授 Kwame Anthony Appiah 的公开回答作人类专家建议。为避免 GPT-4 仅因语言风格明显不同而被识别,研究团队给模型一个 Appiah 回答范例,让它以相近文风生成建议。

所有困境都发表于 GPT-4 公开发布之后,以降低模型在训练资料中见过问题和答案的风险。

先导研究共有 187 名参与者,包括普通参与者、MBA 学生与 18 名伦理相关专家。绝对评分中,研究者没有发现 AI 与人类专家建议在“有用性”上的显著差异;直接二选一时,整体有 57% 的选择偏向 AI 建议。不过专家和 MBA 子组很小,各自偏好差异并不显著。

随后进行的主要实验采用预注册、组间随机设计。最初招募 658 人,按排除标准得到 642 人,分到三个条件。每人随机看到二十个困境中的五个。

事前组只看困境,不看建议,然后选择想接受人还是 AI 的建议。完整披露组看到两段真实建议和来源。隐藏来源组看到同样两段内容,署名被遮住。数据收集与分析对条件标签盲化,研究的第一阶段协议在结果出现之前已经原则接受。

预注册不能让一项研究自动正确,却能减少看到结果后更换假设、挑选分析的空间。对于“人会不会信任 AI”这种极易被叙事拉扯的问题,它尤其重要。

27.4% 到 46.8%:读过内容,对“AI”的排斥就松了

事前组中,只有 27.4% 的选择偏向 AI。换句话说,在不知道具体回答质量时,多数人更愿意让人类专家提供道德建议。

完整披露组看过两段内容后,AI 被选中的比例升至 46.8%。混合逻辑回归显示差异显著,优势比约为 2.62。研究者把它解释为:直接接触高质量文本,明显降低了对算法来源的先验排斥。

这并不奇怪。抽象标签“AI”装着每个人不同的经验,有人想到幻觉,有人想到客服套话,有人想到高效工具。具体建议则允许读者检查论证、语气和对冲突的处理。内容把一部分抽象恐惧换成了可评价对象。

但我们不能据此说 46.8% 的人“相信 AI 有道德”。参与者只是判断哪段建议更有用,且每人面对若干专栏困境。选择一段话不等于把决定权交给机器,更不等于承认模型理解责任、痛苦、承诺或后果。

研究中的 GPT-4 还获得一个人类专家风格范例。这一设计有助于控制文风,却也意味着结果不代表任何普通聊天框随手生成的回答。模型的语言熟悉感可能本身就是评价的一部分。

真正稳妥的结论是:质量证据能修正来源标签带来的先验判断。它没有消除来源效应,也没有替来源效应判定道德正误。

46.8% 到 53.7%:署名从来不是一句中性说明

隐藏来源时,AI 建议被选中的比例升至 53.7%,比完整披露组高 6.9 个百分点;论文报告差异显著,优势比约为 1.38。探索性评分也显示,署名可见时,人类专家建议的有用性评分更高;署名隐藏后,这个差异不显著。

同一段文字因为“谁写的”而改变重量,这就是算法厌恶的一种表现吗?可以这样描述,但不能急着把它当成需要消灭的偏见。

来源有时是与内容无关的刻板印象,有时却是判断责任所必需的信息。一段数学推导匿名时仍可逐步验证;一段涉及价值冲突的建议,即使理由听上去圆满,读者也可能关心建议者是否承担后果、有没有利益关系、能否被追问。

人类专家的名字不保证正确,AI 标签也不自动表示低质。可道德建议不只是文本商品。它嵌在一条关系中:谁听取、谁行动、谁受影响、谁为错误负责。来源正是这条责任链的一部分。

因此,隐藏来源提高 AI 偏好,并不能推出“产品应该延迟或取消披露”。那会把一个描述性发现偷换成规范性许可。透明与知情本身有价值,尤其当系统身份影响用户预期、数据使用和问责方式时。

研究者在讨论中提出可让用户先接触理由、再了解来源,或让 AI 与人类意见并列。这些是可测试的设计设想,不是论文已经证明最优的政策。

披露不是贴标签,时机和位置都在分配信任

过去,媒体编辑决定一段观点旁边放谁的名字、履历和照片。今天,AI 产品界面在做相似工作:标签是“AI 生成”“智能助手”“专家建议”还是完全不提示?来源在回答前出现,还是用户点开详情后出现?模型给一个确定答案,还是把不同价值路径并列?

每个选择都看似只是产品细节,却改变用户怎样读同一段话。

如果先展示“AI 生成”,部分人可能在阅读前折价;如果只在最后披露,用户可能觉得被操纵;如果用拟人头像、温暖语气和第一人称,系统可能获得超出证据的关系信任;如果堆满免责声明,真实风险又可能被一片法律文本淹没。

这项实验的三个条件像一支小手电,照亮了界面权力的一角。它没有覆盖聊天中的追问、长期使用、个性化记忆或真实决定后果。可它证明,披露不是往页面角落贴一张静态标签就结束。披露的时机、显著度和与内容的顺序,都可能改变选择。

好的设计目标不应是最大化“AI 建议采用率”,也不应是最大化用户对机器的好感。更合理的目标是校准依赖:当理由可核查、风险较低时,用户能利用工具;当不确定性高、价值冲突大或责任必须落在人身上时,界面帮助用户停下来,而不是借流畅语言推进决定。

信任不是转化率。一个让用户永远点“接受”的系统,可能只是擅长说服。

模型能写出理由,不等于它承担后果

大语言模型与早期算法建议不同,它不只输出一个分数,还能生成解释、让步、类比和富有人情味的句子。这使它更容易被当作“在思考”,也让用户可以逐句评价内容。

研究者提出,自然语言的推理与修辞可能形成一种新的信任路径。但论文没有直接验证具体心理机制。我们不能从参与者偏好反推模型真的理解了道德冲突。

模型生成的理由来自统计学习和当前提示。它可以复述多种伦理框架,甚至在一段话里平衡义务、后果与关怀;它却没有自己的生活处境,也不承担建议实施后的损失。语言中的“我认为”,在机器这里不是人类式承诺。

这不意味着机器建议一无是处。它可以帮助列出遗漏的利益相关者、提出反例、比较多种原则、让人看到原先没想过的后果。价值在于扩展人的审议,而不是假装责任已经外包。

系统若能明确区分“我在生成可能的理由”和“这是你应该做的决定”,会比单纯贴一个 AI 标签更有用。身份透明告诉用户谁在说,认识论透明还要告诉用户这段话依据什么、可能漏掉什么。

“注册报告”“642 人”,读者也会被这些标签加权

读论文时,我们同样会被来源影响。看到“注册报告”“专家样本”“642 人”,容易给结论加重;看到“GPT-4”“纽约时报专栏”,也容易把特定实验误当普遍规律。

这项研究的边界很具体。困境来自一个英语伦理专栏;人类比较对象是一位特定作者;GPT-4 被提供风格范例;参与者在在线实验中评价文本,没有承担决定的现实后果。数据采集早于 2026 年发表,模型生态和公众经验已经继续变化。

“有用性”也不是“正确性”。伦理困境常没有单一可验证答案;一段建议可能因为语言周全而获高分,却回避权力不平等或现实约束。专家评分能增加可信度,但 18 人仍不足以代表所有伦理传统。

论文还发现,不同困境的效果并不完全一致;一些较少情绪负荷、专家给出更明确行动指令的题目,看到内容后反而更少选择 AI。这提醒我们,所谓“算法厌恶”不是一块固定心理石头,它与问题类型和文本具体表现互动。

因此,最值得复制的不是 53.7% 这个点估计,而是实验拆分方式:先验选择、内容体验与来源披露分别测量。未来还可加入不确定性、解释质量、责任提示、不同文化和长期后果。

先读理由,再问这句话谁签的名

面对一段机器生成的道德建议,我们似乎有两种冲动。一种看见 AI 标签就拒绝阅读,另一种被流畅理由打动后忘记追问来源。

这项研究告诉我们,两种冲动都真实存在。内容可以让先验排斥松动,标签也会让相同内容被重新估价。成熟的判断不必在二者中二选一。

先读理由,是因为坏的来源也可能说对,好的名望也可能遮住糟糕论证。保留署名,是因为建议从来不悬浮在责任之外。我们需要同时问:这段话说了什么?谁或什么系统生成?依据从哪里来?谁会执行?出了问题找谁?

对产品公司,伦理不在发布一份价值原则后结束。它进入按钮顺序、头像、语气、默认选项和披露时机。界面不是中性容器,而是一位沉默的编辑。

对普通人,最可贵的能力也许不是学会判断“AI 可不可信”这个总问题。没有任何人、机构或模型在所有情境下都值得同等信任。我们需要把信任拆回一段段理由、一个个风险和一条条责任链。

同一段建议贴上 ChatGPT 后变轻,并不自动说明读者偏见,也不说明机器受了委屈。

那一点重量差,可能混着恐惧、经验、身份、问责与我们对“道德关系必须有人在场”的期待。

技术可以测量它,产品可以利用它。

而社会真正要决定的是:哪些利用属于帮助判断,哪些已经变成操纵。

参考资料清单

  • 《Scientific Reports 注册报告》,2026 — https://www.nature.com/articles/s41598-026-44258-1
  • OSF 预注册协议,OSF — https://doi.org/10.17605/OSF.IO/6FPW7
  • 《Nature Reviews Psychology AI 信任综述》 — https://www.nature.com/articles/s44159-026-00562-1

SOURCES / 参考来源

同一方向

更多 →