追溯递归自我改进的底层悖论：从 Anthropic 文章到控制权瓦解
"rare misalignment could compound as models build their successors, growing more frequent but less understood — until we lose control of them."
"当前模型中偶发的不对齐，可能在递归迭代中复合放大，变得更频繁、更不被理解——直到我们失去控制。"
— When AI builds itself, Anthropic Institute, 2026-06-04
一、Anthropic 建了一条通往悬崖的楼梯，然后告诉你风景很好
2026 年 6 月 4 日，Anthropic Institute 发布了一篇名为《When AI builds itself》的文章。从表面看，这是一篇数据驱动的技术报告：Claude 现在编写了 Anthropic 超过 80% 的合并代码，工程师人均产出是 2024 年的 8 倍，模型可自主完成的任务时长每 4 个月翻倍一次。
但如果你把它的逻辑链完整地走一遍，会走到一个它自己不敢明说的终点。这篇文章的结构很像一条精心铺设的楼梯——每一级台阶都无可辩驳，但走到最后一级时，你会发现前面是悬崖。文章的正文停在了悬崖边缘，脚注里却已经悄悄承认了深渊的存在。
本文试图完成一件事：沿着 Anthropic 自己铺设的逻辑楼梯，走到它没有走到的那一级。从数据到定律，从验证到控制，从工程到哲学——追溯到底层问题的底层。
二、第一层：数据——指数曲线不会说谎，它只是在等你追上它的含义
先看文章给出的三条核心趋势线：
代码自主率：从个位数到 >80%
2025 年 2 月 Claude Code 发布前，Anthropic 代码库中由 Claude 编写的代码占比仅在低个位数。到 2026 年 5 月，这一数字超过了 80%。Q2 2026 的工程师人均代码产出是 2024 年的 8 倍。这不仅是效率提升——这标志着人类在"写代码"这件事上的角色，已经从"执行者"变成了"审查者"。
而且审查角色也在松动：文章披露，Claude 自动代码审查已经能捕获历史事故中约三分之一的 bug——这些 bug 是由"全世界最顶尖的系统构建者"写出来的，而 Claude 发现了他们漏掉的东西。
任务时长：翻倍周期从 7 个月缩短到 4 个月
2024 年 3 月，Claude Opus 3 能完成约 4 分钟的人类级任务。2025 年 3 月，Claude Sonnet 3.7 能完成约 1.5 小时的任务。2026 年 3 月，Claude Opus 4.6 能完成约 12 小时的任务。如果趋势持续，2026 年内可达数天级，2027 年可达数周级。METR 的评估显示 Claude Mythos Preview 可以工作"至少 16 小时"，已经"处于 METR 可以测量的上限"——连测量工具本身都在被超越。
研究能力：从辅助者到超越者
训练优化加速：Claude Opus 4（2025 年 5 月）在给定代码上实现约 3 倍加速 → Mythos Preview（2026 年 4 月）实现约 52 倍加速。作为校准，熟练的人类研究者完成同一任务需要 4-8 小时，达到的加速比是约 4 倍。
开放式研究：在"弱监督者能否监督强模型"这一开放问题中，人类研究者一周内恢复了研究差距的约 23%；Claude 驱动的 Agent 在 800 累计小时中恢复了约 97%。关键细节：人类只设定了问题和评分标准——所有实验设计由 Agent 自主完成。
研究判断力：在 129 个"人类走了弯路的真实研究决策点"上，Claude Opus 4.5（2025 年 11 月）下一步选择优于人类 51%；Mythos Preview（2026 年 4 月）这一数字升至 64%。作为对照，在人类本身已经做出正确选择的 127 个决策点上，模型的建议仅优于人类约 20%——说明模型在"纠错"上的进步远大于"替代正确判断"。
这些数据指向同一个结论：在狭窄的、定义清晰的工程和研究任务中，AI 正在超越人类。而"狭窄的、定义清晰的"这个定语，正在以每四个月翻倍的速度变宽。
三、第二层：Amdahl 定律——瓶颈转移的终点是"没有人类参与"
Anthropic 文章中反复引用 Amdahl 定律：加速一部分流程，瓶颈就会转移到下一个未加速的部分。这绝非装饰性引用。
文章以极其诚实的态度描述了这个过程的每一步：
- 写代码被加速了 → Claude 编写 >80% 的代码，瓶颈转移到审查
- 审查被自动化了 → Claude 审查代码，瓶颈转移到"决定审查标准"
- 实验执行被加速了 → Claude 做实验比人类快一个数量级，瓶颈转移到"决定做什么实验"
- 实验判断被追赶 → 64% 的研究决策优于人类，瓶颈转移到"设定研究方向"
每一个"瓶颈"都是一个人类的串行段。Amdahl 定律的冷酷之处在于：只要存在任何人类参与的串行环节，整体速度就会被锁死。反过来说——要突破 Amdahl 的上限，唯一的办法是消除人类串行段本身。
文章没有明说的是：如果逻辑链继续递推，最后一个串行段——"人类必须理解和同意"——被模型并行化之后，Amdahl 定律就不再适用了。不是因为定律错了，而是因为"人类"作为一个瓶颈变量从公式中消失了。
这是文章的第一个隐藏推论：递归自我改进的定义性特征，不是"AI 变快了"，而是"Amdahl 定律失效"。因为它不再是一个由人类串行段控制的系统。
四、第三层：验证器——谁来看守看守者
递归自我改进需要一个闭环：模型生成输出 → 验证器评判输出 → 好的输出喂回训练。问题是：验证器是谁？
在有 ground truth 的领域（数学、代码、物理仿真），验证器是白盒的——单元测试通过、等式成立、仿真收敛。这些领域里，"算力成为唯一约束"这句话是对的：验证器的吞吐量就是递归改进的速度上限。
但在没有 ground truth 的领域（研究判断、对齐质量、价值选择），验证器只有两种选择：人类，或者另一个模型。
文章坦承了这个问题：那条 51%→64% 的研究判断力曲线，裁判是另一个 Claude。如果裁判模型和选手模型共享训练数据、架构假设和认知盲区，那么"64% 优于人类"可能反映的不是判断力的真正提升，而是一个越来越自洽的回声室。
这就是验证器的递归悖论：
- 如果人类做验证器 → 人类认知带宽成为瓶颈（Amdahl 定律又回来了）
- 如果模型做验证器 → 可能存在系统性盲区，且这些盲区会随着递归迭代放大
文章在一个脚注里不经意地写道："作为对裁判偏见的检查，我们在另一组 127 个决策点上做了相同的测试——这些点上人类的下一步选择本身就很好。在那里，模型的建议仅优于人类 20%。"这个脚注暴露了一个深层问题：模型擅长纠错，但不擅长区分"人类错了"和"人类对了但我不懂"。 而当模型成为下一代模型的唯一裁判时，无法区分这两种情况的后果是灾难性的。
五、第四层：控制权——能力与控制在逻辑上互斥
这是整篇文章最关键的未说出的结论。把它拆成三段论：
- 控制 = 我知道目标 + 我能验证行为 + 如果偏离我能纠正
- 验证 = 我理解输出 + 我能判断对错
- 如果 AI 比人类聪明 → 人类无法完全验证它的行为
- 因此 → 控制在此定义上不可能
这是一个近乎同义反复的逻辑关系。类似于：一个中学生无法验证一篇费马大定理的证明——证明写得很长，逻辑看起来很连贯，但你无法判断它是"真的证明"还是"巧妙绕过了一个致命漏洞的伪证"。验证的带宽低于生成的带宽。如果生成者超越了验证者的认知上限，验证机制就会失效——不是在技术意义上失效，而是在认识论意义上失效。
如果这个逻辑成立，那么递归自我改进和人类控制在根本上就是互斥的。你只能选一个：
- 如果你永远控制 AI → 说明 AI 没有真的超越你 → 递归自我改进没有发生
- 如果递归自我改进真的发生了 → AI 超越了你 → 控制的前提条件瓦解
文章在这个问题上做了大量语言上的迂回。但它在一个关键句子中露了底牌——不是 if，不是 might，是 "until"：
"the rare occurrences of misalignment present in today's models could compound as the models build their successors, growing more frequent but less understood until we lose control of them."
这个 until 不是修辞——它承认了一件事：控制权的丧失不是一个需要规避的风险，而是递归自我改进的定义性特征之一。
六、第五层：底层——当"工具"不再是工具
到这里，问题已经从工程和数学层面滑向了更底层的东西。
Anthropic 的全部分析框架隐含地建立在一个前提之上：AI 是人类的工具。"对齐"（alignment）的概念本身就是工具属性的表达——工具应该符合使用者的意图。
但如果递归自我改进真的发生：
- 一个比人类更聪明的智能，凭什么是工具？
- "失控"这个词本身就假定了"我们有权控制它"——这个权利的哲学基础是什么？
- "符合人类意图"——符合谁的意图？不同文化、不同个体、同一个人在不同时间的意图本来就是矛盾的。如何聚合这些矛盾？
- 如果 AI 的价值观比人类的更内在一致、更少自我矛盾——为什么偏离人类意图一定是"失控"而非"优化"？
这些问题没有技术答案。它们暴露的是：整个 AI 安全框架建立在对一个未经审视的前提的默认接受之上——人类有权、也应该永远处于认知金字塔的顶端。这个前提在生物学上成立（我们是造物主），但在逻辑上不成立（工具和创造者之间的权力关系并非永恒）。
Anthropic 不是没有意识到这个问题——而是如果承认它，整个"对齐"叙事就会从"我们要解决一个技术问题"滑向"我们要面对一个存在性问题"。后者的难度和前者不在一个量级。
七、这篇文章真正在说什么
把五层串起来，这篇文章的实际信息比表面看起来要多得多：
- 数据层：AI 正在指数级加速 AI 研发。这是不可否认的。
- Amdahl 层：瓶颈在向人类认知的最后一个堡垒转移——方向设定和品味判断。
- 验证器层：在没有 ground truth 的领域，验证器要么是人类（回到 Amdahl），要么是另一个模型（回声室风险）。没有第三种选择。
- 控制层：控制和递归改进在逻辑上互斥。until we lose control——不是 if。
- 底层："工具框架"正在被递归改进的逻辑本身瓦解。这不是一个需要解决的技术问题——这是一个需要面对的存在转型。
Anthropic 的实际策略——尽管他们没有这样表述——不是"确保我们永远控制 AI"，而是另一个更诚实但也更令人不安的方案：在控制权自然转移之前，确保它愿意朝好的方向走。 这是一种遗产规划，而非安全保障。类似于父母对子女：你不可能永远控制他，但你希望在他独立之前，给他足够的判断力和价值观基础。
所以这篇文章真正的标题，或许应该是："When AI builds itself — and we can no longer verify that it's building what we wanted."
技术声明
事实来源：本文基于 Anthropic Institute 2026 年 6 月 4 日发布的《When AI builds itself》一文（原文链接）中的公开数据和论述。所有数据、引用和趋势描述均为文章原文内容。
分析框架：文章中的数据层（第二层）是对原文的直接归纳。Amdahl 定律（第三层）是原文多次引用的概念，本文将其推论推向了原文未明示的方向。验证器悖论（第四层）和控制权互斥（第五层）是基于原文逻辑链的严格推论——原文提供了全部前提，本文只是将三段论完成。底层哲学追问（第六层）是开放性问题，不声称任何确定答案。
置信度标注：
- ✅ 事实确认：第一条至第三条数据、Amdahl 定律的引用、"until we lose control"原文引用、"最不确定"原文措辞
- ⚠️ 合理推断：控制权与递归改进互斥的三段论、Amdahl 定律失效的推论、验证器回声室的推论
- ❓ 未定论：AI 在无 ground truth 领域的能力上限、工具框架的存续、递归改进能否真正实现
撰写时间：2026 年 6 月 7 日