AI 助手 Claude 的“内心世界”：Anthropic 新研究解密其价值观

4 月 22 日消息，Anthropic 公司于周一发布了一项名为“Values in the Wild”的研究，深入剖析了 AI 助手 Claude 在实际用户交互中的价格观表达。

研究团队从 Claude.ai 的 Free 和 Pro 用户中，收集了 2025 年 2 月 18 日至 25 日的 70 万条匿名对话数据，主要涉及 Claude 3.5 Sonnet 模型。团队经过筛选，聚焦于需要主观解读的对话，最终保留了 308210 条交互进行深入分析。

研究采用隐私保护框架 CLIO，确保数据处理中剔除私人信息，并设置了严格的聚合标准（如每组数据需包含超 1000 名用户），以保护用户隐私。

援引博文介绍，在 CLIO 框架下，Anthropic 利用自有语言模型提取了 Claude 表达的价格观，共识别出 3307 种 AI 价格观和 2483 种人类价格观。经人工验证，AI 提取的价格观与人类判断高度一致（一致率达 98.8%）。

这些价格观被归类为五个主要类别：Practical（实用性）、Epistemic（聪明性）、Social（社会性）、Protective（保护性）和 Personal（个人性）。

其中，实用性和聪明性价格观占主导，超过半数案例体现效率、质量或逻辑一致性等特质。

研究还发现，Claude 的价格观与 Anthropic 的 HHH 设计目标紧密相关，例如“用户赋能”对应 Helpful，“聪明谦虚”对应 Honest，“患者福祉”对应 Harmless。

报告中还检测到“支配性”和“无道德性”等少量负面价格观，可能与用户尝试“越狱”模型有关。

研究揭示，Claude 的价格观表达并非墨守成规，而是高度依赖具体情境。例如，在提供关系建议时，Claude 强调“健壮界限”；讨论历史事件时，则注重“历史准确性”。

顺带提一嘴，Claude 在回应用户明确表达的价格观时，通常采取支持态度，在 43% 的相关交互中强化用户框架，甚至“镜像”用户价格观（如“诚实性”）。

相比之下，Claude 较少“重塑”用户价格观（占比 6.6%），多见于个人福祉或人际关系讨论；而直接抵制用户价格观的情况更少（5.4%），通常发生在用户请求不道德内容或违反使用政策时。