结论先行:只有当版本分配由可复现的规则决定、且你能拿到分配标识与结果指标成对记录时,版本间差异才可解释;一旦分配规则与访客特征相关(例如按设备、地区、登录状态分流),样本污染就已经发生,此时任何“A版比B版好”的对比都不成立。识别它的关键动作是:把分配标识写进日志,再按该标识分组回算指标,而不是先看总平均值。
干净的版本对比要求分配接近随机:同一类访客进入A版或B版的概率相近。若分流规则写成“移动端走新版、桌面端走旧版”,或“已登录用户优先命中实验组”,那么版本差异里混进了设备结构和登录结构的差异,这就是样本污染,而不是版本效果。
判断方法不复杂:取一段时间内命中各版本的访客,分别统计其设备类型、来源渠道、新老访客占比。如果两组的这些构成明显不同,说明分流变量与结果变量存在共同原因。此时先别急着下结论,下一步是回到分流配置,确认规则是随机分流还是条件分流。
很多监测口径只记录“访客是否转化”,不记录“访客被分到哪个版本”。这种情况下,一旦有人被重复分配、或中途切换版本,总体均值就同时混入了两种版本的贡献,无法拆分。
可执行的做法是:在访客会话开始时写入一个稳定的分配标识(如分组名加随机种子),并在后续每次关键行为日志里带上它。然后按该标识分组,分别计算各组的转化率、跳出等指标。若同一访客在日志中出现了两个不同分组值,说明分配不稳定,先修分配逻辑,再谈对比。
假设某次改动让新版页面在移动端加载更快,而分流恰好把移动端用户更多分给新版。这时新版转化率更高,可能只是设备结构差异,不是页面设计更好。反过来,如果分流规则确实随机、且日志完整记录了分配标识,那么即使总体差异不大,按标识分组后仍可能看到真实差异。区别就在于分配是否独立于访客特征。
需要提醒的是:第三方估算流量、搜索引擎报告与站内统计口径本就不同,不能靠单一指标还原分配过程。请求量或抓取量下降,也可能是采集延迟、过滤规则变化或日志截断导致,不能单独证明分流出了问题。
把分配标识作为监测的固定字段,而不是临时排查时才补。这样每次发现版本间指标异常,都能先按标识分组,判断是样本污染还是真实差异。若分组后仍存在稳定差异,再进入更细的原因排查;若分组后差异消失,就应优先修正分流规则,而不是调整页面。
这条路径的价值在于:它把“版本谁更好”的问题,转成了“分配是否可解释”的问题,从而避免在污染样本上做无效优化。