知识库/AI 与 Agent

知识库靠可推翻的决策层

属性
概念AI 与 Agent属于知识工程置信· 1 源2026-07-05#ai-agent#knowledge-engineering#governance#methodology

知识库靠可推翻的决策层

源自阿中翻译器的知识库治理设计。让一个知识系统“越用越准”的核心抽象不是产物流水线,而是一层可检索、可推翻的决策记录(ADR 式)——存的是“判断”,不是“产物”。

入库须有防污染闸门

每条经验入库前:

  • 经人审批准(人不得让 agent 自行 approve);
  • 附红队反例(这条在什么情况下会错);
  • confidence + revisit(何时该复查)。

否则会把“错误经验”固化,被后续任务当权威检索,形成**“越用越自信地错”**的自我强化闭环。

draft → approved 生命周期

  • 条目走 draft → 人审 → approved;检索只信 approved。
  • 被推翻的条目改 deprecated 不删除(保留审计轨迹),并用 supersedes 指向替代条目。

关系

这是本知识库自身 auto:/confidence/复核机制的抽象;与 知识复利(复利机制)、RAG vs 编译式 wiki(架构选型)是不同母题——本页管“治理生命周期”。术语库的同构做法见 术语库一词多译防漂移

本页由 AI 从原始资料编译生成、经人工确认后发布;原始资料保留在私有工作区。

人负责策展与提问,AI 负责编译与记账· 源自 Karpathy 的 LLM Wiki 构想