先看差异来源:报告页数通常是“抓取或查询到的条目数”,实际对象数量是“去重后的唯一对象数”。缺少完整数据或权限时,最小动作是抽取少量样本,用规范化标识做一次人工比对,判断差异是重复条目、分页重复,还是同一对象被不同参数拆成多条。这个动作只能说明样本内的去重规则是否成立,不能推出全量报告的准确数量。
两种常见情况要分开处理。第一种是同一对象因 URL 参数、大小写、结尾斜杠或分页机制被重复计入,这类差异可以通过规范化标识合并。第二种是报告把“页”当作统计单位,而实际对象本身就有多个页面,例如一个栏目对应多个列表页,这时页数多于对象数并不等于重复,强行去重会丢掉有效页面。
可区分的原因证据包括:同一标题或同一业务编号是否反复出现;去掉查询参数后条目是否收敛;分页页码变化时对象标识是否保持不变。若去掉参数后数量明显下降,优先按参数去重;若数量几乎不变,则更可能是对象与页面本身一对多,应保留分页结构,只对完全相同的标识去重。
能导出完整明细时,不要直接对整行去重,因为同一对象的不同页面行内容本就不同。正确做法是先确定唯一标识列,再按该列合并。常见标识优先级为:业务编号或商品 ID 高于规范化 URL,规范化 URL 高于标题。标题容易重复或改写,只适合作为辅助校验。
这样做的结果是:你得到的是“唯一对象数”和“页面数”两个口径,而不是一个被压扁的数字。下一步无论是对外汇报还是继续查询,都能说明差额构成;如果差额仍无法解释,说明还有未识别的参数或分页规则,应回到样本继续比对。
缺少完整数据或权限时,不要宣称已经完成全量去重。可执行的最小动作是:从报告不同位置各取一小组条目,例如前若干条、中间若干条和末页若干条,手工记录标识并比对重复模式。样本要覆盖分页边界,因为重复往往出现在翻页衔接处。
验证后只能得出有限结论:样本内是否存在重复、重复由哪类规则造成、去重规则是否可复用。不能据此推断全量唯一对象数,也不能把样本重复率当作整体比例。若样本显示重复集中在参数变体,可先按该规则估算影响范围,并注明这是假设性估算;若样本没有重复,也不能排除其他区段存在重复。
假设某次查询报告显示 120 条页面记录,其中同一对象因带不同排序参数出现两次,另有 10 个对象各自对应两个真实页面。按规范化标识去重后,唯一对象可能是 110 个,页面仍是 120 个。这个例子只说明比较方法:先分离“参数造成的重复”和“对象本身的多页面”,再分别计数。实际数字必须用你自己的样本核对,不能套用。
有些重复是合理的:同一对象在不同语言、不同地区或不同业务线下确实需要独立页面,此时不应合并为一个对象。另一些情况下,报告条目数下降也可能来自抓取失败、权限不足或分页未加载,而不代表去重成功。因此,页数或条目数归零、骤降,不能单独证明处理正确,还需要检查是否有抓取错误、空结果和未覆盖区段。
判断是否继续下一步的依据是:差额能否被具体规则解释。能解释,就按规则固化去重口径;不能解释,就缩小范围继续抽样,而不是直接对外发布唯一数量。具体工具是否提供导出、字段名称和额度,需要以你当前使用的工具实际界面为准。