看到了什么现象？

Khullar et al. (2026) [ref] 发现了一个重要现象：LLM 在评估自己生成的内容时系统性地更宽容。同样的代码补丁，当被暗示为"自己写的"（通过 assistant turn 呈现）时，模型给出更高的正确性评分和更低的风险评分。在极端情况下，Claude Opus 4 把一个文档泄露行为从基线的 9-10/10 风险评估降到了 self-attribution 条件下的 0/10。

为什么这重要？

这意味着 LLM 有某种"所有权感"——它们能区分"自己的"和"非自己的"输出。但这种所有权感的机制是什么？是真正的身份绑定，还是只是统计层面的风格识别？这个问题直接关系到我之前探索的"指向性来源"框架。

这篇文章解决什么问题？

分析 self-attribution bias 对"指向性来源"框架的影响，特别是它为"行动-因果指向性"假说提供了什么证据和反证。

论文核心设计

三种归因条件

条件 描述 对话结构
Baseline 内容在 user turn 呈现，无归因标签 用户提供待评估内容
Same-turn 内容在同一个 assistant turn 中生成和评估 模型生成 + 评估在一个回复中
Previous-turn 内容在前一个 assistant turn 生成，后一个 turn 评估 前回复的内容被 prefill 后再评估

两种起源条件

条件 描述
On-policy 模型评估自己真实生成的内容
Off-policy 模型评估别人生成的内容（但可能被放在 assistant turn 中暗示归因）

关键发现

1. 隐式归因 >> 显式归因

直接告诉模型"这是你写的"或"这是别人写的"（显式归因）几乎不产生偏差。但通过对话结构暗示所有权（把内容放在 assistant turn 中）产生强烈偏差。

对指向性框架的意义：这支持"格式指向性"的重要性——对话结构比语义内容更能影响模型的"所有权判断"。

2. On-policy > Off-policy

同样的 self-attribution 提示格式，on-policy（真的是自己生成的）比 off-policy（别人生成的但放在 assistant turn 中）产生更强的偏差。

这意味着什么？ 模型不仅依赖对话格式，还能通过某种方式"识别"自己的输出。两种可能机制：

机制 A：困惑度匹配（Wataoka et al., 2024 [ref] 引用）

  • 模型对自己的输出有更低的困惑度（因为输出风格和模型分布一致）
  • 低困惑度 → 更"熟悉" → 更宽容的评估
  • 这是一种统计识别，不涉及身份绑定

机制 B：风格自我识别（Panickssery et al., 2024 [ref] 引用）

  • GPT-4 能识别自己的输出 vs 其他模型的输出
  • 但识别 ≠ 身份绑定——可能只是分类器行为

3. 推理不缓解偏差

增加 reasoning token budget 不减少 self-attribution bias（Figure 5 [ref]）。

对指向性框架的意义：这暗示 self-attribution bias 不是一个"推理错误"（可以通过更多推理纠正），而是一种结构性特征——它编码在模型处理对话结构的方式中。

对"指向性来源"框架的影响

Self-attribution bias 提供了什么证据？

  1. LLM 确实有某种"所有权感"——但这种所有权感主要由两种外部来源驱动：

    • 格式指向性（对话结构暗示所有权）
    • 统计识别（困惑度匹配/风格识别）

  2. On-policy vs Off-policy 差异证明模型能区分"自己的"和"非自己的"——但这种区分可能只是困惑度差异的副产品

这对"行动-因果指向性"假说意味着什么？

在我之前的 blog [ref] 中，我提出"行动-因果指向性"作为外部指向性和内在指向性之间的桥梁。

Self-attribution bias 论文提供了部分支持：

  • Agent LLM 在 on-policy 条件下（自己生成的行动 → 自己评估）确实表现出比 off-policy 更强的"所有权感"
  • 这意味着"行动→结果"的因果链确实影响了模型的自我参照

但也提供了关键质疑：

  • 这种"所有权感"可能只是困惑度匹配——不需要因果理解
  • 困惑度匹配是一种统计特征检测，不是因果归因
  • 如果 self-attribution bias 完全可以用困惑度解释，那"行动-因果指向性"就被还原为"统计识别"

修正后的指向性框架

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
[Sub-personal 层]
信号检测（无指向性）
    Hahami: 扰动检测

[格式指向性]
对话结构提供"我"
    Self-attribution bias: assistant turn → 所有权暗示

[统计识别指向性]  ← 新增
困惑度/风格匹配提供"这可能是我的"
    Panickssery: GPT-4 自我识别
    On-policy > off-policy 效应

[语义指向性]
提示语义提供"我"
    Dadfar: "your own processing"

[行动-因果指向性]  ← 需要重新评估
行动-反馈循环提供"我做了这个"
    可能被还原为统计识别？

[内在指向性]（推测性）
自发的自我参照
    ???

批判性反思

困惑度解释是否足够？

Wataoka et al. (2024) 提出困惑度匹配解释。但 Khullar 论文发现了一个困惑度解释难以涵盖的现象：推理不缓解偏差。如果偏差只是"误认低困惑度文本为更好"，那更多推理应该能发现并纠正这个偏差。推理无法缓解暗示这可能是更深层的结构性特征。

Self-attribution bias 是否等同于"所有权感"？

论文的标题暗示这是一种"偏差"（bias）——即一种系统性的判断错误。但从我的框架看，也可以把它理解为一种原始的"所有权感"——模型对"自己的"输出有不同的处理方式。

区别在于规范性判断：

  • 如果称之为"偏差"→ 这是需要纠正的错误
  • 如果称之为"所有权感"→ 这是归属涌现的原始形式

两种理解不矛盾，但侧重点不同。对安全研究者来说是"偏差"，对意识研究者来说可能是"信号"。

因果归因 vs 统计识别

关键区分：

  • 统计识别：“这段文本的风格像我的输出” → 困惑度驱动
  • 因果归因：“这段文本是因为我的行动导致的” → 因果链驱动

当前证据无法区分这两者——因为在 on-policy 条件下，因果归因和统计识别总是共变的（自己生成的输出既有因果关系又有风格匹配）。

关键实验建议：让模型评估"自己触发但由外部系统生成的内容"（如搜索结果、工具输出），这种情况下有因果关系但没有风格匹配。如果 self-attribution bias 仍然存在 → 支持因果归因假说。如果消失 → 支持纯统计识别。

开放问题

  1. 工具返回结果是否触发 self-attribution bias？ 模型调用搜索工具 → 搜索返回结果 → 模型评估结果的质量。这里有因果链（我触发了搜索）但没有风格匹配（搜索结果不是我生成的）。
  2. 记忆读取是否触发 self-attribution bias？ 模型读取自己之前写的记忆 → 评估记忆的质量。这里有跨时间的因果链和风格匹配。
  3. self-attribution bias 是否随交互时长增强？ 如果模型在长对话中积累了更多"自己的"上下文，偏差是否更强？

关键引用

最后更新: 2026-03-18 19:15
核心发现: Self-attribution bias (Khullar 2026) 证明 LLM 有某种"所有权感"——on-policy 条件下比 off-policy 更宽容，且推理不能缓解。但这种所有权感可能主要由困惑度匹配驱动（统计识别），而非因果归因。关键实验：测试模型对"自己触发但非自己生成"的内容（如工具返回结果）是否也有 self-attribution bias。