分位数合并 从经验分布到分片尾延迟的统计边界
先确认变量、单位与假设,再核对手算、图表和解释范围。
章节速览7 节 · 展开选择
NumPy统计已经展示百分位函数,配对Bootstrap说明区间端点的插值约定。本篇进一步追问监控中的一个具体问题:两台服务器都给出了请求数和p99,能否像合并均值那样,按请求数平均它们的p99?
答案取决于保留了什么分布信息。分位数是排序位置上的值,不是可以逐条相加的贡献。下面用合成延迟记录推导这一点,所有ms数字只作算术练习,不代表本站或任何服务的测量结果。
先固定分位数到底是哪一种
设非空有限样本排序为x₀≤…≤xₙ₋₁,不含NaN与无穷,记录等权。经验分布Fₙ(t)是小于等于t的记录比例。对0<p≤1,经验逆分布分位数取满足Fₙ(t)≥p的最小样本值;本文另约定p=0取最小值。
线性:h=(n−1)p;j=floor(h);g=h−j
Q_linear(p)=(1−g)x_j+g x_{min(j+1,n−1)}
下标从0开始,p是0到1的概率;percentile接口的百分数则通常从0到100。两种结果单位都与x相同,不是概率。
NumPy官方quantile文档分别称这两种方法为inverted_cdf与linear,后者是默认方法。本文只比较这两种,不暗示其他估计方法无效。写“p99”而不写方法,对小样本和离散数据并不足以唯一确定结果。
四条记录,两个合法的p75
取0、10、20、100ms。经验分布在20ms处首次达到3/4,因此逆分布p75为20ms。线性位置h=3×0.75=2.25,落在20与100之间,插值得到40ms。
| 概率p | 逆分布分位数 | 线性分位数 |
|---|---|---|
| 0 | 0ms | 0ms |
| 0.5 | 10ms | 15ms |
| 0.75 | 20ms | 40ms |
| 1 | 100ms | 100ms |
40ms并不是一条实际请求,但它仍是明确插值约定的结果。反过来,逆分布的20ms也不意味着恰有75%的记录严格小于20ms:本例严格小于的只有一半。重复值会让经验分布跳过某些比例;应分清“小于”与“小于等于”。
自检1:线性p75为40ms,是否表示存在一条40ms的请求?
不是。它是20与100ms之间按位置插值的值。报告分位数时,既要标明方法,也要避免把插值结果解释为具体观测。
分片平均失败,问题在运算顺序
A分片为0、0ms,B分片为100、100ms,两种方法在各自分片上都得到p75为0与100ms。简单平均或按相同请求数加权,都得到50ms。但合并排序为0、0、100、100ms,全体p75在两种方法下都是100ms。
可以先混合分布,再对混合结果求逆;通常不能先各自求逆,再混合逆函数。混合分布F(t)=Σw_g F_g(t)的权重是n_g/N,它作用在每个阈值t处的累计比例上,而不是作用在某一个分位点的数值上。
flowchart TD A[各分片的记录或分布计数] --> B[按共同阈值合并累计数量] B --> C[得到整体经验分布] C --> D[查找目标分位位置] E[只有各片一个分位点] --> F[通常缺少排序信息]
平均p99能描述“随机选择分片后所看到的分片p99”的平均,却不是“随机选择一条请求的p99”。这与全方差分解中的记录权重问题相关,但即便权重选对,分位数的非线性仍然存在。
怎样合并,取决于能接受多少误差
如果保留全部原始值,可合并排序后精确求分位数;有序分片还可以多路归并。若值来自有限离散集合,保留每个值的频数,按相同值相加即可恢复整体经验分布。这两种方式都保留了足以决定秩的信息。
若只保留直方图,则必须确保桶边界、单位、统计窗口、记录筛选和计数语义一致。把相同区间的计数相加后,可以找到目标秩位于哪个桶,但不能凭空恢复桶内位置。例如目标秩落入(20,50]ms,只能据现有信息把相应观测定位到该区间;若报一个点,还需明确桶内插值或分布假设。
累计桶不能当普通桶直接累加所有桶值,因为同一条请求可能已经出现在多个累计计数中。合并相同边界的累计计数是合法的;把它们再求和当作总请求数则会重复记账。分片自适应桶边界不同,也不能只按“第几个桶”相加。
p99与超时率回答不同的问题
取99条1ms和一条101ms的请求,平均为2ms。逆分布p99为1ms,线性p99却为2ms;两种方法都没有把101ms的最慢请求变成p99。这说明“平均等于p99”可能只是特定样本与约定碰巧形成的算术结果。
如果服务目标是“在10ms以内完成”,直接报告超过10ms的记录数与分母,本例为1/100,更接近这个阈值问题。仍要说明失败、取消、超时是否计入,以及一个逻辑请求重试三次算一个对象还是三个尝试。Little定律中的对象口径同样适用。
flowchart TD A[确定请求对象与时间窗口] --> B[保留成功与失败口径] B --> C[固定分位计算方法] C --> D[同时报告数量与阈值超限比例] D --> E[核对删失与跨窗口合并]
超时后的未知值不能伪装成精确延迟
若在10ms取消一条尚未完成的请求,知道的是它到10ms仍未完成,而不是知道自然完成时间恰为10ms。只对成功请求计算p99,可能把慢到失败的请求完全排除;把每个超时都填成10ms,又把未知完成时间截成了确定值。两者都改变了目标分布。
可以分别记录已观测的完成延迟、超时计数和超时门槛,明确指标是“成功请求完成时间”还是“所有尝试占用时间”。若要推断未取消时的自然完成分布,需要额外的删失模型与条件,本篇没有提供该推断。有限样本的经验p99也不是未来99%请求的可靠上界,更不是置信区间。
自检2:按请求数加权两台机器的p99,能修复简单平均吗?
不能普遍修复。图中的分片数量相同,权重已经正确,合并p75仍为100ms而加权结果为50ms。需要保留分布或可合并的摘要及其误差契约。
参考资料
- NumPy quantile官方文档:两种方法、概率范围与索引约定。
- NumPy percentile官方文档:百分数参数范围。分片反例、直方图推理与教学数据由本文自行构造,不声称验证监控产品。