算法单一化
属性
算法单一化
🎭 本篇寓言已有视觉化剧场版:九座守潮塔 · 寓言剧场——滚动叙事 + 机制动画,先看故事再读概念。
出自 寓言剧场·AI 生成寓言集《九座守潮塔》寓言:潮平谷原有九种各不相同的听水方法,偶尔各自出错,却从不同时失手。九座塔后来分别试用、分别付钱采用同形铜耳;铜耳在寻常雨季确实更准,旧水尺、本地征兆与人工能力因此荒废。无雨之夜,一场不经寻常河声的水墙越过山口,九副铜耳同时沉默。只有保留朱草信号的老守塔人提前闭闸。水退后,人们拆开九副铜耳,发现里面刻着相同簧齿——九座塔还在,判断却早已只剩一只耳朵。
概念内核
**算法单一化(Algorithmic Monoculture)**描述多个彼此独立的决策者逐渐依赖相同或高度相似的算法。组织的所有权、预算与责任仍然分散,输出却因为共享模型结构、训练证据、特征或供应商而高度相关。此时,九个一致回答不再等于九份独立证据;一个共同盲点可能让许多节点同时作出同一种错误判断。
Kleinberg 与 Raghavan 在 Algorithmic Monoculture and Social Welfare 中建立了多决策者选择模型,并展示一种反直觉可能:共同算法对每个使用者可以更准确、各方分别采用它也可以完全理性,但高度相关的选择会减少整个系统原本由不同判断带来的探索与覆盖,因此总体结果未必同步改善。
这个结论有三条边界:
- 共享算法不是天然有害。 研究证明风险可以发生,不是断言每个共同模型都会造成净损害。
- 多样性必须来自不同证据路径。 仅让多个 Agent 复述同一底座的回答,数量增加而独立性没有增加;反过来,为反对而反对也不自动创造有效信息。
- 缓解方式不只一种。 保留人工复核、本地信号、不同训练证据、真正异质的模型或 ensemble,并定期演练备用路径,才能避免“备用方案存在于文档里、能力却已经消失”。后续研究也强调信息汇聚与 ensemble 在某些设置中的缓解作用(Hedden & Raghavan, 2026)。
隐喻对照:九塔=名义独立的组织;九种听水法=异质判断与本地知识;日常更准的铜耳=共同模型;各塔分别试用=个体理性推动趋同;同形簧齿=共享结构与证据;九盏平安灯=相关回答被误当独立证据;荒废的旧工具=备用能力萎缩;无雨水墙=共同证据未覆盖的尾部情形;朱草与闭闸=仍可用的异质信号与系统冗余。
费曼版:九个同学以前用九种方法算题,后来全都改用同一款更快的计算器。九个人一起回答“42”,听起来像九票赞成;可如果九个人都按了同一个坏按键,这只是同一份错误重复九次。共同工具可以继续用,但还要留下另一种真的会算、关键时刻也能接手的办法。
寓言全文
《九座守潮塔》全文照录,供细读研究;剧场版为节选配画。本篇由寓言剧场以
fabulist-v1.md提示词生成(Codex,2026-07-14),原文一字未改。研究事实另取自algorithmic-monoculture-research.md,寓言不作为经验事实的证据。
潮平谷夹在两道雪山之间。九条水道从山里下来,像九根散开的琴弦;每条水道旁,都立着一座守潮塔。
九座塔各有各的听法。东塔看白鹭落脚的高低,西塔尝井水的涩甜;南塔数石缝里爬出的蚁,北塔听夜里河床滚石。有人闻苔藓,有人看月晕,还有一位老守塔人,在窗外养着一盆细长的朱草——地底的水一急,草尖便会朝山里俯下去。
他们常常争得面红耳赤。东塔说水要涨,西塔却说还早;南塔敲了半声钟,北塔只挂一盏灯。谷里人嫌这九种说法麻烦,却也有一桩好处:有的塔看错时,总还有别的塔看见了另一处征兆。多少年来,洪水偶尔骗过一两座塔,却从没骗过全部。
有一年,一个铸器人来到谷中,带来一副半人高的铜耳。它贴在石壁上,不看鸟,不尝水,也不等蚂蚁出洞,只听水在山腹和河床里绕行的声音。
铸器人先把铜耳留在东塔试用。第一场秋雨,它把涨水的时辰说得分毫不差;第二场雨,它连哪道堤先湿都听了出来。东塔人本来还半信半疑,连着一个汛期之后,自己花钱留下了它。
西塔没有跟着东塔。西塔自己借来一副,试了整整一年,才拆掉旧水尺。南塔又多试了半年。其余各塔也都各自试、各自算,谁也没有被谁逼迫。只是到了第四年,九座塔顶都立起了同样光洁的铜耳。
铜耳确实比人勤快。它不打盹,不争论,不因冬夜太冷而少走一次河岸。寻常的雨季里,它十次有九次比老人们先听见水。谷里因此少搬了许多次粮,也少敲了许多回虚惊的钟。
于是白鹭没人再看,井水没人再尝,石缝边的脚印被尘土抹平。旧水尺拿去烧了,听石的木筒成了孩子的玩具。老守塔人也在塔顶装了铜耳,只是没有扔掉窗外那盆朱草。
又过了许多年,谷里有了一句新话:一座塔说平安,或许会错;九座塔都说平安,就是九重凭据。
那年初冬,山上很久没有下雨。天空清得像一只空碗,河水细得可以数清水底的石头。九副铜耳整夜不响,九座塔都挂出了平安灯。
只有老守塔人半夜醒来,看见无风的窗外,那盆朱草正一寸一寸朝雪山伏下去。井口还吐出一缕不合时节的冷雾,几尾小鱼竟逆着浅沟,往高处的稻田游。
他敲响急钟,合上自己水道的闸门,又叫人把粮仓里的麻袋往高处搬。
其余守塔人提灯来问。夜色里,九副铜耳都安安静静。
“天上无雨,河里无声,”他们说,“九座塔,只有你一个人在敲钟。”
老守塔人没有争辩,只把最后一袋谷种背上肩,继续往山坡走。
天亮前,雪山背后一面无人看见的石壁塌了。它在夏天堵住一条高谷,把融雪拦成一座悬在群峰之后的湖;这一夜,石坝终于裂开。那水没有经过谷里的雨,没有先把河床唱响。它越过山口时,像一堵从黑暗里忽然站起来的墙。
九副铜耳在水墙到来前,都没有发出一声。
八道闸门来不及合,八片低地一同被卷走。只有老守塔人那道水门已经关死,门后的高仓像一小块孤岛,替全谷保住了来年的谷种。
水退后,人们把九副铜耳从泥里挖出来,一一拆开。他们原以为会找到九处不同的毛病,或者一条暗中牵动它们的绳。里面却没有绳,也没有哪一副单独坏掉。
九副铜耳的外壳各自属于九座塔,里面的簧片却刻着同样的齿,依着同一批寻常汛期的水声起伏。它们都很会听过去听过的河;那一夜从山背后站起来的水墙,不在任何一道刻痕里。
人们这才明白,过去每逢九盏平安灯同时亮起,他们以为自己得到了九份判断,其实只是把同一个回答,沿着山谷听了九遍。
潮平谷仍有九座塔。只是那一夜以前,它们已经只剩下一只耳朵。
跨主题应用
- 与模型崩塌的区别:模型崩塌讲训练材料经过模型输出反复回流后,信息分布如何逐代变窄;算法单一化讲同一时刻的多个决策者如何因共享判断底座而产生相关选择。一个主要是训练数据随时间退化,一个主要是决策来源在横向上失去独立性。
- 与少数派博弈的区别:少数派博弈的收益来自与多数行动不同;算法单一化中的安全不来自“站到少数边”本身,而来自仍有另一条证据路径能看见共同工具看不见的东西。
- Agent 系统设计:多 Agent 投票只有在错误来源不高度相关时才增加把握。工程上应记录模型谱系、训练/检索来源、供应商与 fallback 是否真正异质,并通过故障演练验证人工与备用路径仍可接管。
一句话钉子:九个判断若来自同一只耳朵,错误来时就不是九次失手,而是一次齐倒。
被引用于 3
本页由 AI 从原始资料编译生成、经人工确认后发布;原始资料保留在私有工作区。