加权均值 从权重含义到集中程度与有效样本量
先确认变量、单位与假设,再核对手算、图表和解释范围。
章节速览7 节 · 展开选择
全方差分解区分记录权重与组权重,分位数合并提醒我们并非所有统计量都能加权平均。即使目标确实是均值,仍要先问:权重代表记录数量、测量精度,还是希望描述的目标人群?
本文从同一组数值开始,说明相同算式为什么可能对应不同的不确定性。所有数字均为合成教学数据;有效样本量只在明确模型下解释,不能用它替代抽样设计或真实独立单位的检查。
一次归一化,固定正在计算的对象
设有n个有限实数xᵢ,权重wᵢ≥0,至少一个严格为正。令W=Σwᵢ,aᵢ=wᵢ/W,则aᵢ之和为1。加权均值m=Σaᵢxᵢ,单位与x相同;权重若共同带有某个单位,会在归一化中抵消。
NumPy average官方文档给出乘积和除以权重和的计算形式。库函数允许的输入范围不等于每种统计解释都合理:本文进一步限定非负权重,保证均值在最小值与最大值之间,也便于讨论权重集中程度。
把全部权重乘同一个正常数,aᵢ、m均不变。把某一条权重单独放大,则改变了目标。若某些权重为零,相应记录不影响均值,但不等于那条记录在现实中不存在。缺失值及其对应权重应一起处理,不能先删除x再让权重错位。
四条记录,三个不同的问题
取x=[0,0,0,10],w=[1,1,1,7]。归一化系数为0.1、0.1、0.1、0.7,m=7;等权均值则为2.5。
| 权重含义 | 7可能代表什么 | 不能直接推出什么 |
|---|---|---|
| 频数 | 该数值在压缩表中出现七次 | 七条记录一定独立 |
| 精度 | 该测量的方差倒数较大 | 结果可用同方差公式 |
| 目标构成 | 该类对象占目标总量七成 | 目标人群已无偏识别 |
三种解释可以算出同一个7,却不是同一个统计实验。频数表若来自十次独立测量的压缩记录,原始独立单位可能是十个;若只是把同一次测量复制七遍,独立信息不会凭复制增加。精度权重则必须结合各测量方差,而不是只检查权重总和。
什么时候方差能写成权重平方和
现在换用随机变量Xᵢ,并明确一组条件:权重固定,不由本次随机数据决定;Xᵢ相互独立,具有相同均值μ和相同有限方差σ²。这些条件下,加权均值M仍以μ为期望,交叉协方差为零,因此方差是各系数平方乘方差之和。
Var(M)=σ²Σaᵢ²
n_eff=1/Σaᵢ²=(Σwᵢ)²/Σwᵢ²
n_eff没有单位,通常不是整数。它使本模型下Var(M)=σ²/n_eff,与同方差独立等权均值的方差形式相同;不是凭空恢复的真实记录数量。
本例Σaᵢ²=0.52,n_eff=25/13,约1.923。若σ²=4,则Var(M)=2.08,而四个独立观测等权平均的方差是1。集中权重让一个随机观测的波动更强地影响结果,因此在这个特定模型中增大均值方差。
SciPy gaussian_kde文档也使用上述权重有效数量形式;这里借它核对定义,不把核密度估计的带宽规则当作均值置信区间公式。均值方差的解释来自本篇刚列出的条件与展开。
flowchart TD
A[先说明权重来源] --> B[归一化为系数]
B --> C{独立同方差且权重固定}
C -->|满足| D[方差由系数平方和决定]
C -->|不满足| E[重新列协方差与权重机制]
上下界与缩放不变性
因为aᵢ≥0且Σaᵢ=1,Σaᵢ²≤1;由Cauchy不等式,Σaᵢ²≥1/n,所以1≤n_eff≤n。等权时达到n,只有一个正权重时为1。若只有k个正权重,可把上界进一步写成k。
将[1,1,1,7]共同乘十,权重和从10变成100,n_eff仍为25/13。这是一个很有用的检查:如果某个所谓“有效数量”随任意权重单位变化,通常就混淆了频数与归一化贡献。
自检1:权重总和为10,为什么n_eff不是10?
当前模型有四个独立随机变量,权重只是固定系数。n_eff衡量系数集中造成的方差,不把权重总和解释为独立测量次数。
独立与同方差一旦失效,要保留什么
一般情况下,Var(M)=Σaᵢ²Var(Xᵢ)+2Σᵢ<ⱼaᵢaⱼCov(Xᵢ,Xⱼ)。若四个X完全相同而非独立,任意非负归一化加权都得到同一个X,方差仍为σ²;只用Σaᵢ²会低估它。把相关记录当作独立观测,权重有效数量无法自动纠正。
独立但方差不同时,应保留每个σᵢ²。若共同均值模型可信,选择与1/σᵢ²成比例的精度权重可由约束最小化推出最小方差,但它回答的是另一组条件下的问题。不能一方面声称最后一个观测更精确,另一方面又用所有观测同方差来解释方差代价。
若权重由观测值决定,条件化后的系数与随机变量之间也可能有关联;此时“期望仍为μ”不是单靠系数和为1就能得到的结论。调查加权、逆概率权重与重要性采样各有额外识别和方差条件,本篇不把这个简单模型推广成通用推断。
裁剪大权重,改变的不只有方差
把本例的7截到3,权重变为[1,1,1,3],m从7变5,n_eff从25/13变3。集中程度降低了,但估计值和目标贡献也变了。不能只报告有效数量提高而隐去目标改变或潜在偏差。
flowchart TD A[发现少量权重占多数] --> B[核对来源与重叠] B --> C[比较未裁剪与裁剪结果] C --> D[同时报告目标变化与敏感性] D --> E[再按抽样单位分析不确定性]
自检2:把一条观测复制十次并平分它的权重,信息会增加吗?
不会。复制项完全相关。若只看新的系数平方和,会得到虚假的提升;正确方差计算必须保留它们的协方差或按原始独立单位归组。
参考资料
- NumPy average:加权平均的计算形式与权重和。
- SciPy gaussian_kde Notes:权重有效数量定义。均值模型推导与案例为本文自行展开。