先给结论:当同一组网站数据统计同时支持“渠道变差”和“统计口径变了”两种解释时,不要急着选一个,而是设计一个能制造分歧的反证问题——如果某个解释成立,那么在另一份独立数据里必须出现什么可观测的痕迹;如果这个痕迹不出现,该解释就被削弱。反证问题的核心不是再加一个指标,而是找到两个解释预测结果不同的那个交叉点。
假设一个常见现象:某段时间站内统计显示总访问量下降,但按来源渠道拆分后,每个渠道的访问量都基本持平甚至略升。这本身就是一个矛盾——如果每个部分都没跌,总量为什么会跌?
此时通常出现两种解释:
两种解释都能解释“总量跌、渠道平”这个现象,所以单看这一张报表无法取舍。问题不是数据不够多,而是缺少一个能让两个解释给出不同预测的问题。
反证问题的构造方法可以拆成三步,每一步都要求你写出“如果解释成立,应该看到什么”。
对解释A(口径变了),预测是:变化应该发生在某个具体时间点,且该时间点前后,同一批渠道的原始日志或未加工事件计数不应出现同等幅度的下跌。也就是说,被削掉的是“加工环节”,不是“真实到达”。
对解释B(未归因流量减少),预测是:未归因部分的绝对量应该同步下降,而已归因渠道的绝对量保持稳定。如果未归因部分没降,解释B就站不住。
一个可用的反证问题是:“把统计口径回退到变化前的定义,重新计算同一时间窗的总量,它会回到原来的水平吗?”
这个问题的价值在于:两个解释对它给出的答案相反,所以它能区分它们,而不是又增加一个同向指标。
站内统计、搜索引擎报告和第三方估算的采集口径本来就不同,不能直接相减当作真实差值。但可以用它们判断“变化是否发生在同一环节”。比如:
这里要注意:第三方估算流量、搜索引擎报告与站内统计口径不同,三者不一致本身不证明谁对谁错,只能说明变化发生在哪个环节。不要用某一个指标的涨跌去反推搜索算法,那超出了数据能承载的范围。
假设某站点在3月1日调整了会话去重规则,随后一周总量下降约两成,但各渠道访问量几乎没变。可以这样构造反证:
这个例子的数字只是说明比较方法,不代表任何真实站点。关键动作是做一次口径回退重算,它的结果直接决定下一步该查加工链路还是查流量来源。
两种做法都成立,但适用条件不同。
如果口径调整有明确记录,优先做回退实验,因为它成本低、结论清晰;如果口径没动,查未归因流量更合理。判断依据不是哪个方法更高级,而是哪个解释当前有可验证的痕迹。
如果设计出的问题,两个解释给出的答案一样,那它就不是反证问题,只是重复确认。另一个失败信号是:无论结果如何,你都能继续为原解释找补。出现这种情况,说明问题没有落在可观测的交叉点上,需要回到第一步,重新写出每个解释的独立预测。
反证的价值在于让解释承担被推翻的风险。一个不能被任何结果推翻的解释,对诊断没有帮助,只会让网站数据统计停留在猜测层面。