模型崩溃

出自 《寓言随记》“千瀑之谷”寓言：谷里有一座澄澈如镜的“源头之湖”，由数万年高山雪水与森林露雨汇成，村民世代取纯净湖水酿“记忆之酒”。炼金术士造出“无限复制圣杯”，倒入一小杯源头水就能瞬间复制千杯，村民狂喜、不再爬山打水，还把多余复制水倒回湖里保水位。但复制夹带肉眼难察的微小“数学误差”（几颗盐粒），逐年将复制水倒回湖中，源头之湖不知不觉被复制水替代；圣杯此后复制的已是含盐复制水，误差被无形放大，到第五代湖水苦涩咸腥，酿出的酒像醋和灰烬。村民亲手用机器产生的“幻影”污染毒死了赖以生存的真实源泉。

概念内核

学术定义：模型崩溃（Model Collapse）是生成式 AI（大语言模型、图像生成模型等）在训练演化中面临的致命瓶颈，2023–2024 年由多国计算机科学家通过数学模型首次证实并成为 AI 领域共识。产生机制是“递归训练的诅咒”：模型需读取海量人类真实数据学习现实规律，但随生成式 AI 普及，互联网充斥 AI 生成的垃圾文章、绘画、代码；下一代模型抓取数据时不可避免抓到大量上一代 AI 生成的“合成数据（Synthetic Data）”——第一代学自人类真实数据，第二代学自第一代生成的数据，第三代学自第二代……代际传递中微小统计偏差与错误被不断放大累积，模型逐渐忘记现实世界“长尾（Tail）“的真实细节、只保留平庸的统计平均值，最终认知能力雪崩式坍塌、输出无意义胡言乱语。母文档同时把它定性为现代信息社会的一场新型数据公地悲剧（The Tragedy of the Data Commons）：真实人类数据是共同的”数据公地“，各 AI 厂商为抢流量疯狂排放“数字污水”，正迅速污染整个互联网数据源。

隐喻对照：源头之湖=公共互联网 / 人类真实的知识与文化公地；雪水与露雨（源头水）=高品质、多样性的人类真实创作数据（Organic Data）；无限复制圣杯=生成式 AI，极廉价高效地复制合成内容；微小盐粒=AI 概率逼近时产生的统计偏差与噪音；把复制水倒回湖中=把 AI 合成内容充斥互联网（SEO 垃圾、合成数据污染）；苦涩毒湖与醋一般的酒=模型崩溃，模型失去泛化能力、陷入幻觉与退化。

费曼归纳（“传话游戏”）：20 人传话，第一人（人类创作者）读“黑夜给了我黑色的眼睛，我却用它寻找光明”，耳语传给第二人（第一代 AI）漏成“黑夜给我眼睛，我用它找光”，第三人（第二代 AI）听成“黑眼睛在黑夜里找光”，传到第二十人（第十九代 AI）已彻底变成毫无逻辑的“黑，光，眼睛”。模型崩溃就是：当 AI 不再向人类学习、天天跟别的 AI 玩传话游戏，每次传话都有肉眼看不见的小失真，层层叠加后 AI 最终把充满智慧的人类知识退化成一堆胡言乱语。

跨主题应用

• AI 训练数据的退化风险（本库对照）：模型崩溃是 context engineering 在“数据源”层面的宏观对应物——后者管的是单次推理的 context 质量（context rot、attention budget），前者管的是整个模型训练语料的世代质量；两者共享同一底层直觉：喂进去的信号一旦被噪音污染，再强的架构也会灾难性退化。
• agent 生态的自我投毒隐忧（本库推断）：当 agentic systems 大规模自主生成内容并回流到公共语料，模型崩溃从“训练时风险”变为“运行时风险”——agent 越普及，“数据公地”被合成内容稀释得越快，这正是寓言“把复制水倒回湖里”的现实翻版。
• 与古德哈特定律的同源短视（本库推断）：厂商用“AI 内容抢占搜索流量”当 KPI，与 古德哈特定律“指标一旦成为目标就不再是好指标”同构——追逐流量指标的短视行为，正在污染指标背后本应度量的真实价值（可用的数据源）。