百度 SEO

百度不收录怎么排查:从发现、抓取到索引的完整清单

按URL发现、抓取许可、服务器响应、页面解析和内容价值逐层定位百度不收录。

直接答案 / DIRECT ANSWER

百度不收录不是一个单一故障。排查时必须先判断 URL 处于“未发现、已发现未抓取、抓取受阻、解析异常、规范化冲突、已抓取未索引、已索引但没有可见排名”中的哪一层,再针对证据采取动作。重复提交链接无法替代状态码、robots、首屏 HTML、canonical、日志和页面价值检查。

先给现象分层,避免把所有问题都叫作不收录

同一个 site: 查询无结果,可能代表页面尚未进入索引,也可能只是该查询口径没有展示。先在百度搜索资源平台核对站点与资源提交状态,再取得生产 URL 的 HTTP 响应、HTML 源码和服务器访问日志。

URL 未被发现时,日志中通常没有相应抓取;已发现未抓取时,可在平台反馈或站内发现路径中找到线索;抓取后没有索引,则要继续检查规范化、重复内容和页面价值。

现象需要的证据可能原因处理动作
日志无抓取记录内链、Sitemap、资源平台URL未发现或入口太深增加真实内链并维护Sitemap
抓取返回非200状态码与重定向链404、5xx、循环或登录墙修复响应后重新验证
抓取允许但正文缺失原始HTML与浏览器渲染对比核心内容依赖客户端脚本让首个HTML返回主内容
多个URL内容相同canonical、内链、Sitemap规范信号冲突统一到唯一规范URL
已索引但查不到目标词URL检索与查询表现相关性或竞争不足改进任务覆盖,不重复提交

按优先级执行技术检查

第一优先级是阻断性问题:DNS、TLS、持续 5xx、robots 误拦截、noindex、错误 canonical 和需要登录。第二优先级是发现与规范化:孤立页、Sitemap 中的重定向地址、参数重复页。第三优先级才是内容重写。

用 curl -I 查看最终状态码和 Location;直接查看页面源代码确认 title、description、H1、正文和 canonical 已存在;robots.txt 只能控制抓取,不能作为权限控制或可靠的移除索引工具。

curl -I https://example.com/article
curl -s https://example.com/article | grep -E '<title|canonical|<h1'
curl -s https://example.com/robots.txt

用服务器日志判断是否抓取

按目标 URL、时间、状态码、响应耗时和已核验的爬虫身份查询日志。不要只相信 User-Agent,因为它可以伪造。先看目标页面是否被访问,再看访问是否稳定返回 200,以及抓取后是否持续出现重定向或服务器错误。

没有抓取记录不等于被惩罚;它更常说明发现路径、观察窗口或身份验证尚不足。抓取频繁也不等于一定会索引。

完整示例:新教程发布七天仍无可见结果

某教程在栏目中可见,但日志显示请求一直访问带追踪参数的旧地址,旧地址 302 到新页,而 Sitemap 又列出另一个尾斜杠版本。处理结论不是增加关键词,而是统一内链、canonical 与 Sitemap 到一个 200 URL,删除追踪参数入口,并保留旧地址单跳重定向。

修复后第 1 天复查状态码、robots、HTML 与 canonical;第 2—3 天观察日志是否抓取规范 URL;第 4—7 天核对平台反馈和目标 URL 的实际搜索表现。若已抓取仍未索引,再比较页面是否与既有文章重复、是否提供独立答案和来源。

七天复查清单

每天记录事实,不写“预计已收录”。同一表保存检查时间、URL版本、HTTP状态、抓取记录、平台反馈和下一动作。

  • 第1天:技术阻断与规范URL
  • 第2天:站内入口和Sitemap
  • 第3天:日志中的抓取与响应
  • 第4天:重复页与canonical一致性
  • 第5天:正文独立价值与来源
  • 第6天:内部链接和移动端HTML
  • 第7天:汇总证据并决定继续观察、合并或修复

百度搜索资源平台里的检查入口怎么用

先完成站点验证,再查看资源提交、抓取异常、robots和站点属性相关入口。平台名称与字段可能调整,因此操作时以当前界面为准;台账中记录检查日期、入口名称和截图编号,不把“已提交”写成“已收录”。

URL提交用于帮助发现;抓取异常用于定位服务器或访问问题;robots工具用于验证路径匹配。平台反馈与服务器日志应互相印证:平台报抓取失败时,日志要找到对应时间和状态;日志无访问时,不应凭猜测归因内容质量。

内容价值与站点质量如何判断

技术检查全部通过后,再比较该页与站内已有页面:是否回答独立问题、是否提供原始证据、是否只是同义改写、标题承诺是否在正文完成。一个有用页面应让读者能够完成任务,而不是为搜索引擎重复定义。

站点层面还要查看大量薄页、重复模板、失效链接和服务器不稳定是否降低整体可用性。不要因为单页暂未索引就批量改标题;先用抽样检查确认问题发生在单页、模板还是全站。

证据台账、复现方式与升级条件

建立按URL逐行记录的诊断台账:规范URL、发现入口、Sitemap最后修改时间、robots判定、HTTP最终状态、重定向链、canonical、首屏正文长度、抓取时间、已核验爬虫地址、平台反馈、实际查询和负责人。每次检查写UTC时间与工具版本,原始响应保存为附件。这样可以区分“从未抓取”“抓取失败”和“抓取成功但未进入可见索引”,也能避免不同同事重复提交却没有新证据。日志保留周期必须覆盖观察窗口,并按隐私策略去除查询参数中的个人信息。

复现时从未登录环境访问,分别请求桌面和移动常见User-Agent,确认服务器在不执行客户端脚本时已经返回标题、唯一H1、直接答案、主体和规范链接。检查缓存节点是否一致,连续请求不应在200、403和5xx间波动。若HTML仅返回骨架、关键内容依赖接口、canonical指向其他页面或Sitemap仍列旧URL,应先修技术问题。修复必须从首页或栏目真实点击到页面,再重跑抓取,不用地址栏直达代替信息架构验证。

技术与内容检查均完成后仍长期没有明确解释,可通过百度资源平台反馈,提交规范URL、首次发现时间、最近一次抓取证据、服务器状态摘要和已完成动作。不要发送后台密码、日志中的IP或用户数据。升级后保持页面与URL稳定,在合理观察期内避免每天改标题和日期。是否收录、何时收录与排名均由线上系统决定;没有平台证据时状态只能记为UNKNOWN,而不能写成已恢复。

多URL与改版场景的额外检查

站点改版或协议、主机、路径变化时,先列出旧新URL映射,保证旧地址单跳到最相关的新地址,新地址返回200且自指canonical。导航、正文、Sitemap、hreflang及结构化数据统一使用新地址,旧Sitemap可短期保留用于发现迁移但要记录策略。分页、筛选、打印版和追踪参数若生成近似内容,应明确哪些允许抓取、哪些合并。迁移期间分别监控旧新URL日志与错误,不能因site命令短期波动立刻撤销重定向。若无法取得搜索平台或真实日志证据,迁移效果保持待验证。

常见问题

提交 Sitemap 后多久收录?

没有统一时限,提交只帮助发现,不能保证抓取或索引。

site 查询没有结果就是未收录吗?

它只能作为快速观察,应结合资源平台反馈、日志和目标查询继续判断。

参考资料

  1. 百度搜索资源平台百度 · 资源提交、抓取与索引诊断入口
  2. Google Crawling and IndexingGoogle Search Central · 发现、抓取、解析、规范化的通用技术边界
  3. Robots Exclusion ProtocolRFC Editor · robots.txt语义