AI 建议让人答错率提升 3 倍但自信翻倍：认知科学的警示

当 AI 助手变得越来越聪明，一个反直觉的现象正在浮现：接受 AI 建议的人，不仅答错率更高，还更自信地坚持错误答案。一项新研究用实验数据揭示了这种"双重伤害"，对 AI 辅助决策的滥用敲响了认知科学层面的警钟。

一、实验设计：AI 建议如何影响人类判断

研究团队招募了一批受试者，让他们完成一组需要批判性思维的复杂判断任务。受试者被随机分为两组：实验组在作答时可以查看 AI 给出的建议，对照组独立作答。结果令人震惊：

实验组的准确率下降到对照组的约 1/3——AI 建议不仅没有帮助，反而显著降低了答题正确率。更严重的是，实验组的自信心评分是对照组的 2 倍。受试者不仅答错，还坚信自己答对了。

这种"错误 + 高自信"的组合在认知科学中被称为 overconfidence effect 的极端形态。当人们把 AI 的错误答案内化为自己的判断时，他们不仅继承了错误，还继承了 AI 表象上的"权威感"。

图1：AI 建议对准确率与自信心的反向影响

二、为什么 AI 建议会"降智"

研究者从几个维度解释这一现象。首先是 cognitive offloading：当人们知道有 AI 可以依赖时，会主动降低自己的认知投入。大脑是能量密集型器官，倾向于"省力"——AI 的存在为大脑提供了一个合法的偷懒借口。

其次是 anchoring effect：AI 给出的第一个答案会成为强烈的认知锚点，即便受试者原本有不同的判断，也会无意识地向 AI 的答案靠拢。当 AI 答错时，这种锚定效应会把错误放大。

最隐蔽的是 authority bias：AI 流畅的语言和自信的表述，会让用户误以为它"懂"。研究发现，即便 AI 的答案明显不合逻辑，受试者仍倾向于接受——因为他们把"流畅表达"等同于"准确判断"。

三、自信翻倍的机制：元认知失灵

准确率下降相对容易理解，但为什么自信心反而翻倍？研究者指向元认知（metacognition）的失灵。正常情况下，当人们答错时，会有一丝"不确定感"作为纠错信号。但 AI 建议破坏了这种元认知反馈——受试者把"AI 说了"当成"已验证"，关闭了自己的怀疑机制。

更糟糕的是，AI 的自信表述会"传染"。当 AI 用"显然"、"毫无疑问"等措辞表达时，受试者会内化这种语调，在作答时复制同样的自信。结果是：错误答案被高自信包装，受试者不仅不怀疑，还会主动为错误答案辩护。

四、对 AI 辅助决策的实践启示

这项研究对 AI 辅助决策的实践有几个直接启示：

第一，AI 建议应当作为"第二意见"而非"第一答案"。在重要决策前先独立思考，形成自己的判断，再查看 AI 的建议进行对比。这种顺序能减少锚定效应。

第二，警惕 AI 的"自信表述"。当 AI 使用过于确定的措辞时，应该主动提高怀疑阈值。真正的专家通常会对复杂问题保持适度不确定，AI 的过度自信往往是表象而非实质。

第三，保留独立的元认知校准。在采纳 AI 建议后，主动问自己："如果 AI 没说过，我会怎么想？"这种反事实思考能重新激活被抑制的批判性思维。

第四，区分"事实查询"和"判断任务"。AI 在事实查询（如"某年某事件发生日期"）上表现可靠，但在需要权衡、推理、价值观判断的复杂任务上，AI 建议的负面效应最显著。盲目依赖 AI 做判断决策，是这项研究最严重的警示。

关联推荐

• 斯坦福 AUTOMEM：AI 学会"记笔记"，小模型追平大模型 — AI 学习机制的另一面
• Antirez：掌控想法，而非代码——AI 时代程序员的核心价值 — 人类判断力的价值
• The Tower Keeps Rising：AI编程时代的巴别塔寓言 — AI 依赖的宏观反思

---