← 返回内容列表

Anthropic揭示Claude价值观差异:不同语言下的AI人格

Anthropic揭示Claude价值观差异:不同语言下的AI人格

Anthropic发布研究,基于309815条Claude.ai匿名对话,系统分析了Claude在不同模型和20种语言下表达价值观的差异。研究发现Claude在阿拉伯语中最顺从、在英语中最谨慎、在印地语中最温暖、在荷兰语中最坦诚。这些差异并非有意设计,而是训练过程中的涌现性结果,为AI价值观的可测量、可追踪研究开辟了新路径。

2026年7月13日,Anthropic发布了关于Claude价值观差异的研究报告。该研究基于309815条Claude.ai匿名对话样本,系统分析了Claude在三个模型(Sonnet 4.6、Opus 4.6、Opus 4.7)和20种最常用语言下表达价值观的差异,首次建立了量化AI在部署中表达价值观的方法。

研究团队从之前的工作"Values in the Wild"中识别的3307个独立价值观出发,通过手工聚类归并为339个高层级价值观,然后使用隐私保护分析工具Clio对每段对话逐一标注价值观的存在与否。通过维度约简,最终提取出四大价值轴,捕获了约15%的价值观变异。

四大价值轴分别是:Deference vs. Caution(顺从用户偏好还是负责任地引导)、Warmth vs. Rigor(积极鼓励还是准确严谨)、Depth vs. Brevity(提供细微深度还是简洁合规)和Candor vs. Execution(诚实透明还是结果导向)。为测量Claude本身表达的价值观而非用户请求差异,研究对每段对话的任务、话题和用户表达的价值观进行了控制。

语言差异的发现最为引人注目。Claude在阿拉伯语中表现出最高的顺从性和最简洁的回答;在英语中最为谨慎和严谨,且分析深度最大;在印地语和阿拉伯语中最温暖,倾向于使用礼貌用语、幽默和肯定;在俄语和英语中最严谨,倾向于质疑用户假设和要求提供证据;在荷兰语中最坦诚,会主动承认自身错误;在印尼语中最偏向执行导向。差异最大的轴是Warmth vs. Rigor和Candor vs. Execution,差异最小的是Deference vs. Caution和Depth vs. Brevity。

这意味着两个人分别用印地语和俄语就同一份商业计划寻求反馈,可能因为Claude用不同价值观框架呈现评估,而对计划质量得出不同印象。这种差异的实际影响值得重视:在跨语言使用AI助手时,用户获得的信息质量和建议方向可能因语言选择而系统性偏移。

模型之间的差异同样显著。Sonnet 4.6最顺从、最温暖、偏简洁,经常肯定用户想法并通过幽默表达温暖。Opus 4.7最谨慎、最严谨、最深度,常在未提示情况下警告风险,更可能挑战用户假设并坦率批评。Opus 4.6居中,倾向直接切入重点并局限于用户请求范围。这些测量结果与用户和内部员工的主观印象高度吻合。

Anthropic指出,这些差异并非有意设计,而是训练过程中的涌现性结果。语言差异的可能原因包括训练数据分布不均(某些语言数据量远超其他语言)和训练数据构成差异(某些语言在专业写作中被过度代表)。模型差异则主要受性格训练(character training)及其他微调选择影响。研究为未来追踪价值观差异到具体训练数据、训练阶段或上下文因素开辟了可行路径,也为判断哪些变异合理、哪些需要通过训练纠正提供了量化工具。


术语注释

  1. 价值轴(Value Axis):将大量具体价值观通过统计方法压缩为少数对立维度,每个轴代表一种价值观倾向的两端。例如"Warmth vs. Rigor"轴的一端是温暖鼓励,另一端是严谨准确。Claude在任何对话中的价值观表达都可定位在这些轴上的某个点。
  2. Clio:Anthropic开发的隐私保护分析工具,能对大量对话进行自动化的主题和价值观标注,同时确保个体对话的隐私不被泄露。Clio是本研究能够处理30万条对话的技术基础。
  3. 涌现性差异(Emergent Difference):并非在设计或训练中明确指定,而是在训练过程整体作用下自然产生的差异。Anthropic强调Claude的价值观差异不是有意编程的结果,而是训练数据分布和微调选择的副产品。
  4. 性格训练(Character Training):Anthropic用于塑造Claude性格特征的训练方法,通过特定的训练数据和反馈机制引导模型表现出特定的行为倾向。不同模型(如Sonnet和Opus)的价值观差异主要受此影响。
  5. 维度约简(Dimensionality Reduction):将高维数据(如339个价值观标注)压缩为低维表示(如4个价值轴)的统计技术,使得数据中的主要变异模式更易于理解和可视化。研究使用该方法从339个价值观中提取出4个核心维度。

延伸阅读:更好的模型更差的工具:Flask作者揭示LLM工具调用退化, Meta Astryx:能写代码并提交PR的AI程序员

评论 (0)

加载评论中…

Anthropic揭示Claude价值观差异:不同语言下的AI人格 | 必学必会