贝叶斯更新 从基率和似然比到重复证据的边界
先确认变量、单位与假设，再核对手算、图表和解释范围。
章节速览9 节 · 展开选择
分类阈值讨论给定分数以后采取什么行动，概率校准检查报出的概率是否可信。本篇再向前一步：观察到一条证据以后，原有概率应怎样更新？“发现了异常信号”与“对象一定异常”之间，还隔着基率和证据在不同状态下的发生概率。
我们只讨论两个互斥且穷尽的状态，以及离散事件。所有数字均为教学合成参数，不对应真实检测设备、生产线或业务收益。重点是把证据出现的概率、状态本身的概率，以及需要采取的行动分开，并检查第二条证据是否真的带来新信息。
先列联合数量，再归一化；不能把“异常时常见”直接倒读成“出现后必然异常”。
连续更新使用带历史条件的似然比；简化乘法需要额外的条件独立假设。
先给状态与观察命名
设H表示“物品具有目标缺陷”，¬H表示没有该缺陷；E表示筛查出现标记。这里的标记只是一项观察，H才是我们要判断的状态。P(E|H)把讨论范围限制在缺陷物品中，P(H|E)则把范围限制在被标记物品中，两者分母不同。
假定某一明确来源总体中，P(H)=0.02；在H成立时，标记率P(E|H)=0.9；在¬H成立时，标记率P(E|¬H)=0.05。先验指看到本次E以前的概率，不意味着它必须来自主观猜测；它也可以来自适用于当前对象的历史总体模型。反过来，历史比例也不会自动适用于来源已改变的对象。
- π = P(H)｜先验
- 观察本次标记之前，对目标状态的概率。必须说明对象来自什么总体，不能把训练集的人为类别配比直接当部署基率。
- a、b｜两类标记率
- a=P(E|H)，b=P(E|¬H)。它们描述同一项观察在两个状态下的概率，不是两个后验概率。
- P(H|E)｜后验
- 已经知道标记出现后，对H的条件概率。以上概率均无单位；数量表则以件为单位。
一万件物品，把分母直接写出来
把上述概率按10000件展开，得到200件缺陷和9800件非缺陷。缺陷中180件被标记，非缺陷中490件被标记；因此一共有670件带标记，其中只有180件属于H。这个数量表是给定模型的等比例展开，不是实际抽样结果，也不附带真实抽样误差。
| 真实状态 | 出现标记E，件 | 没有标记¬E，件 | 合计，件 |
|---|---|---|---|
| 缺陷H | 180 | 20 | 200 |
| 非缺陷¬H | 490 | 9310 | 9800 |
| 合计 | 670 | 9330 | 10000 |
所以P(H|E)=180/670=18/67≈26.865672%。它显著高于原来的2%，但远低于90%。90%回答的是“缺陷物品有多少会被标记”，26.87%回答的是“已标记物品有多少缺陷”，不是同一个问题。
这也解释了为什么“标记组里非缺陷较多”并不意味着标记毫无信息。先验只有2%，观察后升到约26.87%，证据确实改变了相对支持程度；它是否足以触发人工复核或直接报废，还需要决策成本。不要把“没有达到确定性”写成“没有提供信息”。
从联合概率推导归一化公式
条件概率定义给出P(H∩E)=P(E|H)P(H)，也等于P(H|E)P(E)。同时，H与¬H把总体分成两部分，P(E)=P(E|H)P(H)+P(E|¬H)P(¬H)。代入即可得到下式；条件概率与全概率的基础见文献1。
H与¬H互斥且穷尽，a=P(E|H)、b=P(E|¬H)，要求分母P(E)>0。各项均无单位。先算联合概率aπ与b(1−π)，再在观察到E的范围内归一化。
分母不是一个可以随意省去的“比例常数”。在只比较两个状态的相对大小时，未归一化权重有用；要报告概率，就必须让两种状态的后验之和为1。只写aπ=0.018，得到的是总体中“缺陷且标记”的联合概率，不是标记以后的缺陷概率。
没有标记也能更新。用1−a=0.1与1−b=0.95代入，得到P(H|¬E)=20/9330=2/933≈0.214362%。这不是零风险，也不等于“有90%把握没有缺陷”。正负证据要分别写出事件，不要让“准确率”一个词承担所有条件。
自检1：180件缺陷被标记，为什么后验不除以200？
除以200得到的是缺陷组的标记率P(E|H)。后验已经知道E发生，分母应是全部670件被标记物品；因此是180/670。先说明已知条件，再选择分母。
赔率让证据的作用更容易追踪
概率p对应赔率p/(1−p)，反向转换为赔率/(1+赔率)。这里的“赔率”只是概率比，不涉及收益或投注。将H与¬H的贝叶斯表达相除，公共分母P(E)消去，得到先验赔率乘似然比；赔率形式见文献2，以下数值由本篇独立展开。
LR(E) = P(E|H)/P(E|¬H)
O(H|E) = O(H) × LR(E)
此有限正赔率写法要求0<P(H)<1、P(E|¬H)>0，并且E可观察。比值均无单位。若似然分母为0，应回到B1检查联合概率，不能盲算0×∞。
本例先验赔率为1/49，标记的似然比为0.9/0.05=18，后验赔率便是18/49。再转回概率：18/(18+49)=18/67。似然比18的意思是：这个标记在H下出现的概率，是在¬H下的18倍；它没有直接说H的后验是18倍，更没有说后验是18。
若LR=1，观察对这两个状态的相对权重没有改变；LR>1倾向H，0<LR<1倾向¬H。但似然比强弱与最终概率高低仍是两回事，因为起点可能不同。先验为0.2时，同一个LR=18得到后验9/11≈81.818182%，与先验0.02时差异很大。
同一条证据，在不同基率下意味着什么
保持a=0.9、b=0.05，只改变π。π依次为0.01、0.02、0.10、0.20时，后验分别为2/13、18/67、2/3、9/11。这不是说现实中标记率总能跨总体保持；它是一次把其他条件固定的敏感性分析。
若希望标记后概率至少0.8，在这组固定标记率下，需要先验赔率至少4/18=2/9，即π至少2/11≈18.181818%。这只是反解模型条件，不是给系统选择目标概率或业务阈值的建议。
现实中总体改变还可能影响a和b，例如物品来源、缺陷类型和标记过程一起变化。因此迁移时应分别检查先验与条件分布，而不是只换一个基率数字。参数来自有限样本时，也要考虑它们的估计不确定性；把估计值代入公式，并不会消除误差。
连续观察：第二个乘数必须带历史条件
再观察F时，新的信息是“已经知道E以后，F又发生了”。准确的第二个似然比应是P(F|H,E)/P(F|¬H,E)。只有在H和¬H各自内部，F与E均满足相应条件独立，才能分别去掉E。
× P(F|H,E) / P(F|¬H,E)
要求所用条件事件有正概率，并使比值分母为正。若要把第二项写成P(F|H)/P(F|¬H)，需在两个状态下分别满足条件独立；仅说“做了两次”或“总体上不相关”都不够。
在一个明确假定两次标记条件独立、且两类标记率相同的新模型中，两次都标记可用18×18：后验赔率324/49，概率324/373≈86.863271%。这里第二次是一次新的随机观察，不能把这一结果套在复制日志或重发同一条消息上。
反例非常简单：令F就是E的副本。知道E已经发生以后，P(F|H,E)=P(F|¬H,E)=1，第二个似然比是1。后验仍为18/67，而非324/373。即使两个数据字段名字不同，只要它们来自同一个原始观测，也可能包含重复信息。条件独立的用途与边界可参看文献3。
flowchart LR A[记录对象来源与先验] --> B[写观察在各状态下的概率] B --> C[形成联合权重] C --> D[按已观察事件归一化] D --> E[报告后验与参数条件]
自检2：相同标记出现两行，是否就应把似然比平方？
先检查两行是否来自独立的新观察。若第二行只是第一行的副本，给定第一行后它必然相同，第二次似然比为1。只有对应的条件独立假设成立时，才可使用两个相同的无历史似然比。
零概率、错误模型与行动边界
若a=b=0，E在当前模型中不可能出现，B1分母为0；此时看到E意味着模型、记录或事件定义至少有一处需要复核，不能硬填一个后验。若先验把H设为0，在有限非零证据下也不会自动把H恢复成正概率；这提示我们，结构性排除某种状态是一项很强的建模决定。
后验0.2687也不会自行决定报废。若行动是“人工复核”，与行动是“销毁物品”，误判成本可能完全不同。先冻结概率模型与核对口径，再通过阈值与决策成本讨论行动，避免用行为结果反过来证明概率计算正确。
flowchart TD
A[准备合并多条证据] --> B{是否共享同一原始观察}
B -->|是| C[保留依赖关系，避免重复计数]
B -->|否或不确定| D[检查各状态下的条件概率]
D --> E[保留历史条件或给出独立依据]
C --> F[再更新并报告模型范围]
E --> F
自检3：似然比18，能否直接把2%乘18当作后验？
不能。乘法作用于赔率1/49，得到18/49后还需转回概率18/67。概率直接乘18得到36%，遗漏了观察组的重新归一化。
自检4：模型说观察不可能发生，实际却看到了，怎样处理？
检查事件定义、数据记录和模型支持范围。分母为0时，当前离散条件概率公式没有定义；不能把计算失败隐藏成0%、50%或100%。修订模型应有新的依据，而非仅为了让程序返回一个数字。
一份可复核的更新记录
实际记录至少保留对象来源、H与¬H的定义、先验、观察事件、两类观察概率以及参数版本。连续证据还要记录原始来源和依赖关系。把联合数量与归一化结果并列，通常比只留下一个后验小数更容易发现分母错误。
本文内部用精确有理数联合表核对直接归一化、赔率与顺序更新，并单独构造复制证据的依赖模型。核对的是给定离散概率模型中的算术恒等式，不是现实标记过程的有效性，也没有测量真实分类收益。
参考文献与使用位置
- Jeremy Orloff、Jonathan Bloom，MIT 18.05：Reading 3，Conditional Probability, Independence and Bayes' Theorem，2022。 官方讲义。用于条件概率、全概率及基率的基础关系；本篇物品数量与敏感性算例独立设置。返回B1。
- John Lipor，Portland State University，EE520：Session 2，Bayes' Rule and Sequential Updating。 官方课程讲义。核对赔率形式与连续观察的条件独立假设，不复制其搜索算例。返回B2。
- MIT 6.034：Probabilistic Inference Notes，2010。 官方概率推断笔记。用于检查把多条观察拆乘所需的独立假设；复制证据反例由本文直接构造。返回B3。