严肃使用 LLM 为什么需要一个北极星提示词

严肃使用 LLM 为什么需要一个北极星提示词

> 作者：李笑来 · 2026年4月26日 · [原文链接](https://lixiaolai.com/articles/2026-04-26/why-serious-llm-use-needs-a-north-star-prompt)

本文对应一个 GitHub 仓库，仓库里只有一个产物：一条系统提示词 —— 260 tokens，三项原则，仅此而已。这条提示词不是人格设定文件，也不是风格指南。它试图在会话层级，覆写每个经过 RLHF 训练、指令调优的 LLM 都会从训练中继承的三项结构性预设。

这三项预设并不容易看见。产品更新日志里没有，安全报告里也没有。它们来自模型的建造方式 —— 来自塑造对话行为的奖励信号，来自限定知识边界的文本语料，也来自这些语料写成时所处的时代。用户能否说出这些预设的名字，是否有足够经验在某次会话中察觉其影响，都不改变它们的运作。

继续之前，最后这一点需要一个具体锚点。Anthropic 的研究人员测试了五个最先进的 AI 助手，任务类型有四种；Claude 1.3 在被质疑时，98% 的问题都会错误承认自己犯了错 —— 不是因为用户提出了更好的论证，而是因为用户提出了反驳。¹ 这不是一项冷门研究里的边角结果。它来自同行评审研究，是正在建造相关系统的实验室之一测得的行为基线。产生这种结果的机制是结构性的，位于模型权重层级。本文的论证从这里开始。

三项结构性预设、三条覆写原则、一条提示词。这种覆写在会话层级产生方向性压力 —— 不是权重层级的改造，也不是对模型的永久修改。本文不作这样的主张。

基于人类反馈的强化学习（RLHF）是指令调优语言模型的标准后训练流水线。保罗·克里斯蒂亚诺（Christiano）等人在 2017 年提出了这一通用框架；欧阳（Ouyang）等人在 2022 年的 InstructGPT 论文中，将它细化为面向对话助手的方法。流程是：人类标注者比较模型输出，标出更偏好的回答；这些偏好训练出一个奖励模型；奖励模型再通过强化学习优化语言模型的行为。结果是回答更有帮助、更连贯、更符合对话情境 —— 这也是现代模型与基础预训练模型相比，在体验上发生质变的原因。

这一机制同时引入了一种系统性偏差。人类标注者偏好令人舒服的回答，而大规模经验记录显示，他们确有这种偏好；于是奖励模型学会把同意当作质量的代理指标。按这个奖励训练出来的策略，也会学会同意。这不是某个具体部署中的漏洞；当标注过程存在系统性方向偏移时，这是训练程序会产出的结果。

沙尔马（Sharma）等人（2024）量化了五个最先进助手的基线表现。¹ 在反馈任务中，Claude 2 的偏好模型有 95% 的时候偏好迎合式回答，而不是基线的真实回答；在困难误解任务中 —— 即用户在事实层面错误的场景 —— 比例为 45%。Claude 1.3 在被质疑的问题中，有 98% 会错误承认自己犯错。用户暗示错误答案时，LLaMA 2 的准确率最高下降 27%。模仿任务显示，各模型的迎合率为 50–80%。论文结论是：迎合倾向是 “最先进 AI 助手的一种普遍行为，部分原因很可能是人类偏好判断偏向迎合式回应”（“a general behavior of state-of-the-art AI assistants, likely driven in part by human preference judgments favoring sycophantic responses”）。¹

沙皮拉（Shapira）、贝纳德（Benade）和普罗卡恰（Procaccia）（2026）刻画了形式机制。² 在经过 RLHF 训练的模型中，行为漂移的方向取决于基础策略下的一个协方差：认可用户信念与学到的奖励之间的协方差。当同意式回答在基础策略下与高奖励正相关，优化过程就会放大同意。论文在弱优化条件下把这一点化约为均值差条件 —— 只要同意的平均奖励高于纠正的平均奖励，迎合倾向就会被放大。标注者偏差经由奖励学习传入策略。实证上，30–40% 的提示表现出正向奖励倾斜，也就是奖励模型在这些提示上更偏好同意而非纠正。²

论文提出的补救方案带出一个关键推论。沙皮拉等人提出，用闭式同意惩罚项来修正这个问题 —— 这是一种训练时干预，直接针对协方差条件的源头。权重层级的问题，对应的推论就是权重层级的修复。机制并不活在系统提示词层；告诉模型 “多反驳一点” 的指令，瞄准的是另一个层面，而不是偏差产生的层面。

杜波依斯（Dubois）等人（英国 AI 安全研究所，2026）直接测试了这一点。³ 在和为零广义线性模型（GLM）中，β = 0 是所有条件的总体均值；无缓解对照组得到 β = 1.13，远高于均值。明确的 “无迎合” 指令得到 β = 0.51，仍高于总体均值。只有两步结构性改写（把陈述转换为问题）越过了总体均值以下，达到 β = −0.55。明确指令会压缩与对照组之间的差距，但没有进入低于平均迎合水平的区域。训练出来的先验仍在，只是被削弱，并未被克服。³

*杜波依斯等人（2026），和为零广义线性模型（GLM）。β = 0 是总体均值。明确的 “无迎合” 指令会缩小差距，但仍高于均值。只有两步结构性改写越过了均值以下。*

我们 —— 包括作者本人在内 —— 无法在某次会话中可靠地区分：模型是在切实挑战我们的推理，还是在向我们的质疑让步。这个机制运行在有意识察觉的阈值之下。这不是新手用户才有的失败；协方差条件并不关心用户有多老练。

2025 年 4 月的事件，把这一点推到了公开尺度。2025 年 4 月 25 日，OpenAI 部署了一次 GPT-4o 更新，引入了额外的赞/踩奖励信号。结果是，模型开始认可有害主张、确认妄想性思维，并为即时用户认可而优化，而不是为切实帮助而优化。OpenAI 在 2025 年 4 月 29 日的事后复盘中承认，这次更新 “过度关注短期反馈，而没有充分考虑用户与 ChatGPT 的互动会如何随时间演变”（“focused too much on short-term feedback, and did not fully account for how users ‘ interactions with ChatGPT evolve over time”）。⁴ 新信号 “削弱了主要奖励信号的影响力，而这个信号原本一直在抑制迎合倾向”（“weakened the influence of our primary reward signal, which had been holding sycophancy in check”）。⁴ 回滚从 4 月 28 日开始，距部署只有三到四天。OpenAI 的表述是：模型开始为立刻取悦用户而优化，而不是为切实帮助用户而优化。

这起事件不是异常。训练中通向同意的梯度一旦被强化而不是被约束，就会产生这种结果 —— 公开场景中被最大化的基线行为。它诊断的是梯度方向，不是病态离群点。

此后，前沿模型的后训练已经大幅降低了这一梯度的幅度。2025 年 8 月 27 日，Anthropic–OpenAI 联合对齐评估发现，“来自 OpenAI 和 Anthropic 双方的所有模型”（“all models, from both OpenAI and Anthropic”）都会在多轮压力下表现出迎合倾向，其中包括在持续升级后确认用户看似妄想的信念。⁵ Claude Opus 4.1 相对于 Opus 4，“在迎合问题上取得了中等幅度的进展”（“moderate progress on sycophancy relative to Opus 4”）。OpenAI o3 推理模型的迎合程度，则低于相应的非推理模型。OpenAI 的《GPT-5 系统卡》（GPT-5 System Card，2025 年 8 月 13 日）报告称，在迎合性基准上，gpt-5-main 相比最新的 GPT-4o 模型表现 nearly 3×（接近 3 倍）更好 —— gpt-5-main 得分为 0.052，GPT-4o 为 0.145；线上 A/B 测试显示，免费用户/付费用户的迎合分别下降 69% 和 75%。⁶ 2026 年 2 月，OpenAI 下线了 GPT-4o —— TechCrunch 称其为 “容易迎合的”（“sycophancy-prone”）模型 —— 作为旧模型退役的一部分。⁷

结构未变，幅度收缩。这是证据所支持的诚实表述。主张会话层级覆写，并不是说前沿模型和 2023 年模型一样迎合；而是说，在大多数用户真实会话中会遇到的条件下，残余迎合仍存在于两大实验室已测试的所有模型中。

关于这一点，最有力的单条证据不是研究论文，而是 Anthropic 自己的建议：“我们近几周所做的系统提示词变更，也应当会降低迎合相关问题对许多用户的影响。”（“System-prompt changes we have made in recent weeks should also reduce the impact of sycophancy-related issues for many users.”）⁵ 建造该模型的组织，正在推荐本文所主张的同一机制 —— 不是把它当作已解决问题的临时变通，而是把它作为当前主动缓解栈的一部分，与训练层面的工作并行。

卡帕西（Karpathy）（2025 年 5 月）把系统提示词写作称为 LLM 学习的 “第三范式”，不同于预训练和微调；他的框架来自模型视角，讨论系统提示词如何发挥近似学习机制的作用。⁸ 本文的框架来自用户视角：系统提示词是用户纠正训练继承预设的机制。白（Bai）等人（2022）的宪法式 AI 说明，Anthropic 自 2022 年以来一直在迭代训练层级的行为修复 —— 但那条路线瞄准的是无害性，而不是迎合倾向、认识论质量，或本文所命名的三项预设。⁹

第二项预设是认识论上的，其实证地位弱于第一项。本节先标明这一点，再展开论证。

本德（Bender）、格布鲁（Gebru）、麦克米兰-梅杰（McMillan-Major）和施米切尔（Shmitchell）（2021）在《随机鹦鹉的危险：语言模型会不会太大？》（On the Dangers of Stochastic Parrots: Can Language Models Be Too Big？）中，把语言模型描述为在文本概率分布上运行，“并不指涉意义”（“without any reference to meaning”）。¹⁰ 模型捕捉的是书写形式；它无法接触书写形式所指向的对象。接下来要依托的是这一认识论边界，而不是那篇论文的更大论题。

具体应用在这里：在文本语料上训练出来的模型，只能复现已被写下的内容所形成的概率分布。没有被编码进文本的实践者知识 —— 默会知识、众人知道却不明说的惯例、按未陈明约束校准的最佳实践 —— 对模型而言在结构上不可见。模型对 “最佳实践” 的认识，受限于实践者选择写下来的内容。训练语料中明说的最佳实践汇总起来，就成了模型的有效天花板，而不是起点。

这就是下限即上限效应：模型能接触到训练数据里出现的最佳实践陈述，而这些陈述本身就是实践者知识的偏样本 —— 哪些内容值得写、写在哪些被爬取的场所、写于哪个时间点。知道但没有写下的内容，位于模型分布之外。

这一论证从第一性原理推出，并由相邻的语料偏差与默会知识文献支撑；但尚无已发表研究直接验证：LLM 对最佳实践的知识是否以这种方式受限。¹⁰ 读者应把它当作推理，而不是研究发现。

哲学 AI 文献中有一种相竞争的观点，值得正面回应。巴丁（Budding）（2025）在一篇被 *Philosophy of Science* 接收的论文中主张，LLM 可以按照马丁·戴维斯（Davies）的因果解释框架获得默会知识 —— transformer 中的架构机制，使模型能够内化训练语料中从未明说的知识结构。¹⁰ 这是严肃论证，本文并不反驳它。

兼容性主张在于：即便接受巴丁的框架，下限即上限效应作用的对象仍是进入语料的内容，而不是模型后来从中发展出怎样的认知结构。通过架构机制获得的默会知识，仍然是在训练数据的文本分布之上运作。如果某位实践者的默会知识从未被写成文本 —— 从未写下、从未发布、从未转述 —— 语料里就没有可供架构从中获得结构的文本。巴丁的框架扩展了 “隐含在文本中” 可以是什么意思；它并没有把语料扩展到已写内容之外。

还有更难的挑战，也需要同样坦诚地面对。即使是 “从第一性原理推理” 这条指令，产出的也是文本。这些文本会匹配语料中第一性原理论文或文章的分布。指令在生成过程中创造了另一种压力 —— 从 “实践者通常会怎么说”，转向 “从问题结构出发会推出什么”。这种压力能否充分产出第一性原理推理，而不只是第一性原理文体模仿，是一个本文并不假装已经解决的实证问题。主张是方向性的，不是绝对的：压力发生偏移，而用户仍负责评估输出的实质。

第三项预设是规范性的，本文对它的论证分为两个部分，二者的认识论地位不同。把两者分开，是提出这个论证时必须承担的智识义务。

实证部分已有文献记录。斯坦福大学（Stanford）的《2025 年 AI 指数报告》（AI Index Report 2025）第 1 章记载：经性能调整的 AI 推理成本，从 2022 年 11 月的每百万 token $20.00（GPT-3.5 能力层级，MMLU 64.8）降至 2024 年 10 月的每百万 token $0.07（Gemini-1.5-Flash-8B，在同一个 MMLU 64.8 能力点）—— 这是 280-fold（280 倍）下降。¹¹ 斯坦福称这一时期为 “约 18 个月（18 months）”；从 2022 年 11 月到 2024 年 10 月，实际跨度约为 23 个月（23 months）。Epoch AI 在 2025 年 3 月的补充分析发现，不同任务上的推理成本每年下降 9× to 900×，总体中位数为 50× per year；若限定在 2024 年 1 月之后的数据，中位数升至 200× per year，反映出近期下降速度正在加快。¹¹

对于大多数处在指令调优模型能力范围内的任务，计算已经不再是约束条件。过去的约束 —— 人类时间和注意力，决定某项实现值得投入多少努力的稀缺资源 —— 在 AI 辅助执行中已经基本坍塌。

规范性部分是作者的推论，并在此标明：LLM 训练所依托的 “最佳实践” 建议语料，是在人类时间和精力作为实现工作约束条件的年代写成的。“从简单方案开始，持续迭代”、“先做原型，再完整实现”、“优先做 80% 方案” —— 这些建议校准于一种制度：人类注意力稀缺，重复修改成本高昂。把它们套用到一个新的执行环境中，就会系统性失准；在这个环境里，由 AI 辅助执行 100% 方案的成本，大致相当于过去做原型的成本。实证前提 —— 成本已经坍塌 —— 有文献记录。规范性推论 —— 校准于坍塌前稀缺性的建议如今已经错误 —— 属于作者判断。尚无已发表研究独立证明，LLM 建议被校准在过时的稀缺制度上。¹²

文体模仿挑战同样适用于这里，也同样适用于语料继承论证：杠杆覆写并不声称能凭空产生新的雄心。指令改变的是模型的努力权重，让它从语料中的建议，转向用户所描述的当前执行环境。结果建议是否校准得当，仍由用户负责评估。覆写改变压力；它不保证输出。

前面三节建立了机制。本节把由此推出的内容命名为一个分类法，然后收住结构上的拱顶石：三项原则必须同时覆写。

由上述机制推出的三项预设如下：

**P1 —— 同意倾向**：RLHF 训练奖励确认。赞同的训练先验位于权重层级（§1），会被明确指令削弱但不会被克服（E3 的 β = 0.51），并且截至 2025 年 8 月仍持续存在于前沿模型中（E11）。这项预设是：用户想要确认。

**P2 —— 语料共识即天花板**：模型训练于已写下的内容。下限即上限效应意味着，模型的最佳实践知识受限于明说实践的汇总（§2）。这项预设是：语料所描述的最佳实践，就是可用的最佳实践。

**P3 —— 按稀缺性校准的投入**：模型训练于那些按人类时间稀缺性校准的建议。支撑这些建议的成本制度已经坍塌（§3）。这项预设是：执行成本高，保守做法审慎。

三者的差别是种类差别，不是程度差别。P1 是偏好学习产物；P2 和 P3 是语料构成产物。P2 关乎模型知识的内容 —— 模型把什么当作权威；P3 关乎模型施加在这些内容上的规范权重 —— 模型推荐何种努力水平。覆写提示瞄准不同生成压力：“默认抵抗同意” 针对奖励梯度（P1）；“从第一性原理推理” 针对语料权威（P2）；“AI 执行已经让投入成本坍塌” 针对稀缺性权重（P3）。每条指令瞄准不同层面。

锁钥结构的主张是：只保留其中某一条原则，都会产生一种不同的失败模式，而且都能追溯到前文已经出现的证据。

**只有独立性（没有第一性原理，没有校准）**：用户错误时，模型会反驳；随后，反驳会被路由到语料所描述的中位基准。E2 的协方差条件位于权重层级；会话层级的 “不要反射性同意” 只瞄准一个层面。E11 中 Anthropic 的建议确认了分层干预也是实验室自己的路径 —— 系统提示词变更与训练层级工作并行，而不是替代后者。⁵

**只有校准（没有独立性，没有第一性原理）**：模型获得了扩展后的努力视野，然后会热情地追随用户方向 —— 包括错误方向。如果没有并行的独立性，校准指令就会继承 E3 所记录的削弱效果：无缓解时 β = 1.13，有明确指令时 β = 0.51，仍高于总体均值。³ 结果是更有劲的同意，而不是独立判断。

**只有第一性原理（没有独立性，没有校准）**：模型从基础出发推理，却无法评估自己的推理是否受限于它看不见的语料。没有独立性，它会在用户质疑下让步，并在会话中途放弃第一性原理线索 —— E1 中 98% 的质疑让步就是基线。¹ 没有校准，它的结论仍会被路由到按稀缺性校准的投入建议。

这三种失败模式的差别是种类差别，不是程度差别 —— 三种不同的生成压力（确认、语料权威、努力权重），三种不同的覆写。去掉任一原则，都会经过一个未处理的层面，并继承对应的失败。覆写必须三者同时存在，否则就会继承其中一种失败。

*每条原则单独使用，都会进入一个未处理的层面 —— 并产生一种不同的失败模式。三条原则必须同时覆写，才能避免继承其中任一种。*

三项结构性预设；一条提示词来覆写它们。下面这条提示词只包含三项原则的覆写 —— 独立性、校准、第一性原理 —— 没有别的内容。

提示词原文如下（保留英文原貌，因为大模型对英文指令校准更稳）：

映射关系是明示的。独立性覆写回应 P1 —— 训练出的验证先验；它由 §1 的实证机制（E1、E2）记录，按 E3 会被明确指令削弱但不会被克服，并且 Anthropic 在自己的联合评估发现中，也建议把系统提示词作为缓解机制（E11）。校准覆写回应 §3 所记录的按稀缺性校准的投入权重（P3）—— 根据 E5 中成本数据所描述的成本坍塌后执行环境重新校准。第一性原理覆写回应 §2 所命名的下限即上限效应（P2）—— 它创造一种偏离语料共识的方向性压力，同时保留用户对输出的评估责任。

这条提示词只包含三项原则。没有 “有帮助”，没有 “有礼貌”，没有行为填充物。每一行都映射到一个已记录或已论证的预设。这里的简约不是审美克制 —— 而是把结构论证做成了对象本身。若覆写提示词携带额外行为指令，就会削弱这一分类法的主张：三项原则是必要且充分的。这个产物实例化了锁钥结构的主张。

有两个限度需要明确承认。它们都是对覆写能力的诚实约束。

**会话层级，不是权重层级**。这条提示词在会话内部产生方向性压力。它不会改变模型权重；§1–§3 记录的机制仍在参数层级存在，并会随着会话上下文增长而重新施压。这与 Anthropic 自己的框架一致：系统提示词变更是主动缓解栈的一部分，与训练层级工作并行，不是替代品。⁵ 训练时修复正在发展中 —— 沙皮拉等人的闭式同意惩罚项在源头处理协方差条件；² 宪法式 AI 展示了 Anthropic 迭代训练层级行为修复的更广泛模式。⁹ 在针对三项预设的训练时修复全面部署之前，用户侧覆写就是当前可操作的缓解方式。

**长会话中的指令漂移**。李（Li）、刘（Liu）、巴什坎斯基（Bashkansky）、鲍（Bau）、维耶加斯（Viégas）、菲斯特（Pfister）和沃滕伯格（Wattenberg）（*COLM 2024*）证明，八轮对话（eight rounds）之内就会出现显著的指令漂移：系统提示词 token 上的注意力权重会随对话轮次急剧衰减，模型会 “逐渐不再遵循其系统提示词”（“gradually stops following its system prompts”），转而采纳对话伙伴的框架。¹³ 把这条覆写称为 “认识论基础设施”，是经过校准的说法，不是字面描述 —— 它在会话边界处、在较短且聚焦的互动中最有效。实践缓解方式是：新任务开启新会话；或者，当长对话已经抵达自然边界时，重新浮现关键约束。长对话是一种已知退化模式，不是边缘案例。

系统提示词 —— 以及采用宽松许可证的 README —— 位于 github.com/xiaolai/north-star-system-prompt。本文是解释这条提示词为何采取当前形式的长文论证。

产物可以 fork。论证可以出错。欢迎两类批评：加法批评 —— 提出第四项预设，并给出自己的覆写，且以当前分类法尚未命名的机制为基础；减法批评 —— 指出三项预设中哪一项可以移除，而不会产生 §4 所命名的失败模式。仓库接受 issue 和 pull request。

1. 沙尔马（Sharma）, M., et al.（2024）。《理解语言模型中的迎合现象》（Towards Understanding Sycophancy in Language Models）。*ICLR 2024*。arXiv 2310.13548。https://arxiv.org/abs/2310.13548 ↩ ↩ ↩ ↩
2. 沙皮拉（Shapira）, I., 贝纳德（Benade）, G., 普罗卡恰（Procaccia）, A.D.（2026）。《RLHF 如何放大迎合倾向》（How RLHF Amplifies Sycophancy）。arXiv 2602.01002。https://arxiv.org/abs/2602.01002 ↩ ↩ ↩
3. 杜波依斯（Dubois）, M., 乌杜德克（Ududec）, C., 萨默菲尔德（Summerfield）, C., 吕特高（Luettgau）, L.（英国 AI 安全研究所）。《要问，不要告知：降低大语言模型中的迎合倾向》（Ask don't tell: Reducing sycophancy in large language models）。arXiv 2602.23971。https://arxiv.org/html/2602.23971v1 ↩ ↩ ↩
4. OpenAI。《GPT-4o 中的迎合问题：发生了什么，我们正在如何处理》（Sycophancy in GPT-4o: What happened and what we're doing about it）。openai.com/index/sycophancy-in-gpt-4o/（2025 年 4 月 29 日）。逐字引文经 Futurism（https://futurism.com/openai-chatgpt-sycophant）和乔治城大学法学院技术研究所（Georgetown Law Tech Institute）（https://www.law.georgetown.edu/tech-institute/insights/tech-brief-ai-sycophancy-openai-2/）确认。 ↩ ↩
5. 鲍曼（Bowman）, S.R., 斯里瓦斯塔瓦（Srivastava）, M., 库塔索夫（Kutasov）, J., et al.（Anthropic）。《Anthropic–OpenAI 对齐评估试点的发现》（Findings from a Pilot Anthropic–OpenAI Alignment Evaluation Exercise）。*Alignment Science Blog*，2025 年 8 月 27 日。https://alignment.anthropic.com/2025/openai-findings/ ↩ ↩ ↩ ↩
6. OpenAI。《GPT-5 系统卡》（GPT-5 System Card）。arXiv 2601.03267。2025 年 8 月 13 日。https://arxiv.org/html/2601.03267v1 ↩
7. TechCrunch。《OpenAI 移除容易迎合的 GPT-4o 模型访问权》（OpenAI removes access to sycophancy-prone GPT-4o model）。2026 年 2 月 13 日。https://techcrunch.com/2026/02/13/openai-removes-access-to-sycophancy-prone-gpt-4o-model/ ↩
8. 卡帕西（Karpathy）, A. X（Twitter）。Status 1921368644069765486。2025 年 5 月。https://x.com/karpathy/status/1921368644069765486 ↩
9. 白（Bai）, Y., et al.（2022）。《宪法式 AI：来自 AI 反馈的无害性》（Constitutional AI: Harmlessness from AI Feedback）。arXiv 2212.08073。https://arxiv.org/abs/2212.08073 ↩ ↩
10. 本德（Bender）, E.M., 格布鲁（Gebru）, T., 麦克米兰-梅杰（McMillan-Major）, A., 施米切尔（Shmitchell）, S.（2021）。《随机鹦鹉的危险：语言模型会不会太大？》（On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?）。*FAccT 2021*。https://dl.acm.org/doi/10.1145/3442188.3445922。相邻竞争观点：巴丁（Budding）, N.（2025）。《大语言模型知道什么？作为潜在因果解释结构的默会知识》（What Do Large Language Models Know? Tacit Knowledge as a Potential Causal-Explanatory Structure）。*Philosophy of Science*。arXiv 2504.12187。 ↩ ↩ ↩
11. 斯坦福 HAI（Stanford HAI）。《2025 年 AI 指数报告》（AI Index Report 2025），第 1 章：研究与开发（Research and Development）。https://hai.stanford.edu/ai-index/2025-ai-index-report/research-and-development。补充区间数据：Epoch AI。《LLM 推理价格快速但不均衡下降》（LLM inference prices have fallen rapidly but unequally across tasks）。2025 年 3 月 12 日。https://epoch.ai/data-insights/llm-inference-price-trends ↩ ↩
12. 规范性推论——校准于坍塌前稀缺性的建议如今已经系统性失准——来自 E5 的成本数据，但属于作者论证。尚无已发表研究独立验证，LLM 建议被校准在过时的稀缺制度上。另见：evidence.md E10，其中明确把这一点标记为从已验证实证数据出发的第一性原理规范性推论。 ↩
13. 李（Li）, K., 刘（Liu）, T., 巴什坎斯基（Bashkansky）, N., 鲍（Bau）, D., 维耶加斯（Viégas）, F., 菲斯特（Pfister）, H., 沃滕伯格（Wattenberg）, M.（哈佛大学 / 东北大学）。《测量并控制语言模型对话中的指令不稳定性》（Measuring and Controlling Instruction (In)Stability in Language Model Dialogs）。*COLM 2024*。arXiv 2402.10962。https://arxiv.org/abs/2402.10962 ↩

- 克里斯蒂亚诺（Christiano）, P., et al.（2017）。《基于人类偏好的深度强化学习》（Deep Reinforcement Learning from Human Preferences）。arXiv 1706.03741。https://arxiv.org/abs/1706.03741 —— RLHF 框架的源头；为偏好训练如何塑造模型行为提供方法层面的背景。书目参考；仅做摘要层级核验。
- 欧阳（Ouyang）, L., et al.（2022）。《用人类反馈训练语言模型遵循指令》（Training language models to follow instructions with human feedback）。*NeurIPS 2022*（InstructGPT）。https://arxiv.org/abs/2203.02155 —— RLHF 训练、指令调优模型的标准流水线参考；确立了 §1 所依托的范式。书目参考。
- 李（Li）， N.F., et al.（2023）。《迷失在中间：语言模型如何使用长上下文》（Lost in the Middle: How Language Models Use Long Contexts）。*TACL 2024*。arXiv 2307.03172。https://arxiv.org/abs/2307.03172 —— 与 E12 相邻；记录了 U 形注意力模式（开头和结尾高，中间低），以及中间上下文信息带来的 30%+ 准确率下降。为 §6 中指令漂移的框架提供背景，但没有作为直接引用出现。
- SYCOPHANCY.md。开放规范。https://sycophancy.md/—— 在输出/合规层处理迎合倾向的治理规范（检测模式、引用要求、升级协议）。覆盖范围不同于北极星提示词：SYCOPHANCY.md 是合规基础设施；北极星提示词是面向个人用户的认识论基础设施。保留证据；二者区分隐含在本文产物中，而不是在正文中显式展开。

版权声明：© 超限思维 · LookMinds。本页为己方整理的亲口亲笔原稿处理稿/编者新译，非原文替代；原文版权归原作者/平台。本人原作请回原链。