
九座守潮塔
九座塔同时报了平安。只有河水没有答应。

潮平谷夹在两道雪山之间。九条水道从山里下来,像九根散开的琴弦;每条水道旁,都立着一座守潮塔。
九座塔各有各的听法。东塔看白鹭落脚的高低,西塔尝井水的涩甜;南塔数石缝里爬出的蚁,北塔听夜里河床滚石。有人闻苔藓,有人看月晕,还有一位老守塔人,在窗外养着一盆细长的朱草——地底的水一急,草尖便会朝山里俯下去。
有的塔看错时,总还有别的塔看见了另一处征兆。多少年来,洪水偶尔骗过一两座塔,却从没骗过全部。

有一年,一个铸器人来到谷中,带来一副半人高的铜耳。它贴在石壁上,不看鸟,不尝水,也不等蚂蚁出洞,只听水在山腹和河床里绕行的声音。
第一场秋雨,它把涨水的时辰说得分毫不差;第二场雨,它连哪道堤先湿都听了出来。东塔人本来还半信半疑,连着一个汛期之后,自己花钱留下了它。

西塔没有跟着东塔。西塔自己借来一副,试了整整一年,才拆掉旧水尺。南塔又多试了半年。其余各塔也都各自试、各自算,谁也没有被谁逼迫。只是到了第四年,九座塔顶都立起了同样光洁的铜耳。
铜耳确实比人勤快。它不打盹,不争论,不因冬夜太冷而少走一次河岸。

寻常的雨季里,它十次有九次比老人们先听见水。谷里因此少搬了许多次粮,也少敲了许多回虚惊的钟。
于是白鹭没人再看,井水没人再尝,石缝边的脚印被尘土抹平。旧水尺拿去烧了,听石的木筒成了孩子的玩具。
又过了许多年,谷里有了一句新话:一座塔说平安,或许会错;九座塔都说平安,就是九重凭据。

那年初冬,山上很久没有下雨。天空清得像一只空碗,河水细得可以数清水底的石头。九副铜耳整夜不响,九座塔都挂出了平安灯。
只有老守塔人半夜醒来,看见无风的窗外,那盆朱草正一寸一寸朝雪山伏下去。井口还吐出一缕不合时节的冷雾,几尾小鱼竟逆着浅沟,往高处的稻田游。
他敲响急钟,合上自己水道的闸门,又叫人把粮仓里的麻袋往高处搬。

天亮前,雪山背后一面无人看见的石壁塌了。它在夏天堵住一条高谷,把融雪拦成一座悬在群峰之后的湖;这一夜,石坝终于裂开。
那水没有经过谷里的雨,没有先把河床唱响。它越过山口时,像一堵从黑暗里忽然站起来的墙。九副铜耳在水墙到来前,都没有发出一声。
八道闸门来不及合,八片低地一同被卷走。只有老守塔人那道水门已经关死,门后的高仓像一小块孤岛,替全谷保住了来年的谷种。

水退后,人们把九副铜耳从泥里挖出来,一一拆开。他们原以为会找到九处不同的毛病,或者一条暗中牵动它们的绳。里面却没有绳,也没有哪一副单独坏掉。
九副铜耳的外壳各自属于九座塔,里面的簧片却刻着同样的齿,依着同一批寻常汛期的水声起伏。它们都很会听过去听过的河;那一夜从山背后站起来的水墙,不在任何一道刻痕里。
人们这才明白,过去每逢九盏平安灯同时亮起,他们以为自己得到了九份判断,其实只是把同一个回答,沿着山谷听了九遍。
潮平谷仍有九座塔。只是那一夜以前,它们已经只剩下一只耳朵。
这则寓言讲的是 算法单一化(Algorithmic Monoculture):许多彼此独立的组织,因为同一个模型在日常情形下更准、更便宜、更省事,便各自理性地采用它。组织的数量没有减少,判断的来源却悄悄变成一个。于是一个共同盲点,不再只让某一家犯错,而会让整个系统同时犯同一种错。
这不是说共同工具一定有害。Kleinberg 与 Raghavan 的研究指出,在特定模型中,多个决策者采用同一套更准确的判断方法,个体表现可以提高,整体结果却未必随之提高;危险来自回答之间失去独立性。真正起保护作用的,也不是有人为了反对而反对,而是系统仍保留着不同的证据来源与可用的备用路径。
故事里的每一样东西,都是概念里的一块零件
- 九座彼此独立的守潮塔名义上分散的公司、机构或 Agent
- 原先九种各不相同的听水方法独立的人类判断、本地知识与异质模型
- 日常汛期更准确的铜耳对单个使用者确实更强的共同模型或算法供应商
- 九塔各自试用后自愿采用个体理性的技术趋同,而非幕后操控或虚假身份
- 铜耳里相同的簧片与同一批寻常水声共享的模型结构、训练证据与共同盲区
- 九盏平安灯就是九重凭据把高度相关的九个回答误当成九份独立证据
- 白鹭、井水、水尺渐渐无人理会替代方案、地方知识与人工能力因长期不用而萎缩
- 不经寻常雨声而来的水墙共同证据没有覆盖的尾部情形或环境变化
- 朱草与被提前关上的一道闸门保留下来的异质信号、人工备用退路与系统冗余
- 八地同淹、一仓独存相关性错误造成的系统性失败,以及多样性留下的缓冲
讲给聪明的十岁孩子
想象九个同学都在做一道题。以前他们会用九种不同办法算:有人画图,有人心算,有人拿小木块摆。后来大家发现一台计算器,平常算得比谁都快,于是九个人都用同一款。
老师问大家答案,九个人异口同声说“42”。你可能觉得:九个人都一样,肯定对了。可如果这九个人其实都按了同一款计算器里的同一个坏按键,那不是九份证据,只是一份错误被重复了九次。
共同工具不一定坏,也不一定不该用。危险在于:当所有人都只剩同一种办法时,这个办法看不见的东西,就会变成所有人一起看不见的东西。留下一种不同的办法、一个肯自己再看一眼的人,平时显得多余,出错时却可能救下全部。
九个判断若来自同一只耳朵,错误来时就不是九次失手,而是一次齐倒。