先给结论:如果缺失集中在某一类设备,那么基于剩余样本得出的速度结论,最可能偏离的是该设备的真实表现,而不是全站整体;判断偏差大小,要看缺失是“采集不到”还是“用户没来”,以及该设备在真实流量中的占比。把这两件事分开,才能决定是补采数据、分设备下结论,还是暂缓优化。
同样是“某设备数据很少”,原因不同,结论的可信度完全不同。
区分动作很具体:取同一时间段,把服务端日志按设备类型聚合一次,再和速度检测上报记录按设备聚合一次,做比值对照。如果某设备日志占比 15%、上报占比只有 3%,就是采集失败型;如果两边都是 3%,就是流量稀疏型。这个比值直接决定下一步:前者要查上报链路,后者只需延长观察期。
这是偏差判断的核心。采集失败往往不是随机发生的,它和性能本身可能相关。
假设某类设备因为系统版本旧、解析能力弱,速度检测脚本加载超时或被拦截,那么这些设备的真实加载体验通常比成功上报的设备更差。此时用剩余样本算出的平均值,会偏乐观。反过来,如果缺失来自网络环境好的设备(例如某些内嵌浏览器主动屏蔽上报),剩余样本反而偏悲观。
能区分这两种情况的证据,不是速度数字本身,而是缺失设备的特征清单:系统版本、浏览器内核、网络类型、是否处于弱网。如果缺失集中在低版本内核加弱网,就应假设剩余结论偏乐观;如果缺失集中在高版本内嵌浏览器,偏差方向可能相反。没有这份特征清单,任何“偏差有多大”的估计都只是猜测。
不要靠单指标下结论。可以按下面的顺序取证,每一步都能推翻上一步的假设。
第 3 步的结果会直接改变第 4 步:如果受控测试证明脚本在该环境稳定失败,就不能再把它当作“随机缺失”处理,全站平均值必须标注为“不含该类设备”。如果测试证明只是偶发,缺失占比又低于真实流量占比,那么偏差可能小到不影响决策,可以继续用现有结论,但要保留分设备视图。
是否拆分,取决于两个条件是否同时成立:缺失设备占比不可忽略,且偏差方向已知。
两者都成立时,把全站平均值当作唯一结论就是误导。此时应分设备呈现,并明确标注哪类设备数据不完整。若只有占比高但偏差方向未知,结论应写成“该设备表现待确认”,而不是直接给一个数字。若占比很低且方向随机,合并结论可以接受,但要说明样本构成。
一个常见的错误是:看到某设备数据缺失,就断定“优化对它没用”。这跳过了取证。缺失只说明测量不完整,不说明该设备不需要优化。真正需要改变决策的,是缺失设备恰好是目标用户主力机型,且证据显示它确实更慢——这时优化优先级要重排,先解决该设备的加载路径,再谈全站平均提升。
最终交付的速度检测结论,应包含样本构成说明:覆盖了哪些设备、哪类设备缺失、缺失属于哪种类型、偏差可能的方向。这样下游读者才能判断这个结论能不能用于自己的决策。缺失本身不是错误,把缺失当完整才是。先做日志与上报的比值对照,再决定补采、拆分还是暂缓,这一步做完,后面的优化排序才有可靠依据。