增加百度收录的过程中出现异常,第一步不是马上改代码,而是确定影响范围:是整站、某个目录、某类模板,还是只有个别页面。判断依据应来自百度搜索资源平台里的抓取、索引与展现数据,再和站点自身的日志、站点地图、robots.txt 对照。范围没定清楚就批量修改,容易把原本正常的页面一起改坏。
“收录异常”常被混在一起说,实际至少分三层:百度蜘蛛是否来抓、抓了是否建索引、建了索引是否展现。三层的排查对象不同。
site: 查询大致规模,注意它只是估算。只有先确认卡在哪一层,后面的范围判断才有意义。如果日志里蜘蛛照常抓取,只是索引量下降,那问题多半不在抓取通道,而在页面质量或重复内容。
确定影响范围最实用的方法是分组对比,而不是只看总量。把站点按目录、模板、发布时间、页面类型分成几组,分别观察同一时间段的变化。
/news/、/product/、/tag/ 各自的抓取和索引变化。如果只有某个目录下降,优先怀疑该目录的 robots.txt 规则、canonical 设置或模板改动;如果所有目录同步下降,才考虑全站级因素,例如服务器稳定性、全站改版或域名解析变化。
有些现象看起来像收录异常,实际是正常波动或误读,需要先排除。
site: 查询结果只是估算值,短期上下浮动不能直接当成收录量变化。Disallow 只能阻止抓取,不能可靠地把已收录页面移出索引;用它来解释“页面消失”往往不准确。把这几项排除后,剩下的变化才更可能是真正需要处理的问题。
确定范围后,处理顺序应按代价从低到高排列,避免一上来就大改。
判断标准很简单:如果一项修改无法在几天内通过日志或索引数据观察到变化,就不适合作为第一步。假设某站点发现只有 /tag/ 目录索引下降,而详情页正常,那么优先检查该目录是否被 robots.txt 限制、是否大量重复内容,而不是全站重写标题。这个例子只用于说明判断方法,不代表真实项目数据。
打开服务器日志和搜索资源平台,按目录与模板各拉一份异常前后的对比数据,先写下“受影响范围”和“未受影响范围”两列。范围确认后,再从代价最低的一项开始修改,并保留修改前后的数据记录,便于判断改动是否真的解决了问题。