宝塔面板网站不收录?从这5步排查最管用
你的网站在宝塔里可能被“隐藏”了?先查这三个地方
很多新手把网站文件上传到宝塔面板,却发现百度、Google 始终不收录。
首先确认站点是否正常对外服务。
进入宝塔面板 -> 网站,确保对应站点状态为“运行中”,且绑定的域名正确解析到了服务器 IP。
如果状态是“暂停”或“已停止”,右键点击选择“启动”。
接着检查默认 PHP 版本是否过低。
在宝塔面板 -> 网站 -> 设置 -> PHP 版本里,建议使用 7.4 或 8.x,过低版本可能导致部分搜索引擎抓取脚本异常。
最后查看网站根目录是否有 index.html/index.php 等默认首页文件,如果目录为空,搜索引擎会返回 403 或 404,自然无法收录。
搜索引擎爬虫被拦截?检查防火墙和防盗链
宝塔面板自带的系统防火墙和网站防盗链功能,可能会误拦截搜索引擎爬虫。
进入宝塔面板 -> 安全 -> 系统防火墙,查看是否添加了“禁止境外IP”或限制爬虫 User-Agent 的规则。
如果为了防攻击设置了高限制,建议先临时关闭或添加白名单。
在网站设置 -> 防盗链中,如果启用了“仅允许指定域名访问”,请确认里面是否包含了搜索引擎的 User-Agent(如 Baiduspider、Googlebot)。
更好的做法是暂时关闭防盗链,等收录正常后再根据日志选择性启用。
robots.txt 和伪静态:最容易忽视的不收录元凶
访问你的站点根目录下的 robots.txt,比如 https://你的域名/robots.txt。
如果文件内容为 Disallow: / 或者 Disallow 规则覆盖了动态页面,搜索引擎将拒绝抓取整个网站。
宝塔的默认 Nginx 配置中如果开启了“强制 HTTPS”且未正确处理 robots.txt,也可能导致 301 跳转,让爬虫无法读取规则。
解决方案:在宝塔面板 -> 网站 -> 设置 -> 配置文件,找到 server 段,确认 location = /robots.txt 被正确处理。
或者直接在网站根目录新建 robots.txt,内容为:
User-agent: *
Allow: /
Sitemap: https://你的域名/sitemap.xml
同样检查伪静态配置是否正确。
比如 WordPress 固定链接若设置不当,会生成大量带参数 URL,爬虫可能因参数过多而放弃抓取。
进入网站设置 -> URL 重写,选择对应的 CMS 规则(如 WordPress)并保存。
各种缓存插件和 CDN 对收录的影响
很多站长在宝塔面板里开启 Redis 缓存、Memcached 或第三方 CDN,却忘记配置缓存策略,导致搜索引擎看到的页面永远是缓存旧版。
在宝塔面板 -> 软件商店 -> 缓存插件中,检查 Redis 是否开启并正确连接。
如果使用 CDN(如 Cloudflare、又拍云),请关闭“缓存所有内容”模式,改为只缓存静态资源。
另外,Nginx 的 expires 指令如果对 HTML 设置了超长缓存(如30天),搜索引擎抓取时可能拿到过时的响应。
编辑网站配置,在 location ~ .*\.(html|htm)$ 中添加 expires -1; 禁止缓存。
用这几种方法快速验证是否被正常抓取
完成上述检查后,用以下方法验证效果。
| 方法 | 命令或工具 | 作用 |
|------|------------|------|
| 查看返回状态码 | curl -I https://你的域名 | 确认返回 200 而非 301/403/500 |
| 模拟百度爬虫 | curl -A "Baiduspider" https://你的域名 | 检测爬虫访问是否正常 |
| 搜索引擎资源平台 | 百度搜索资源平台、Google Search Console | 提交链接并查看抓取错误 |
| 宝塔日志 | 宝塔面板 -> 网站 -> 日志,筛选 Baiduspider | 确认爬虫在访问,且状态码为 200 |
如果以上步骤都执行过且状态码正常,可以耐心等 1-2 周再看收录情况。
期间不要频繁修改网站内容,避免增加爬虫负担。
避坑指南:这些操作千万别做
- 不要轻易修改 Nginx 配置中的
server_name段,除非你知道自己在做什么,否则容易导致域名访问异常。 - 不要同时开启多个缓存插件,例如同时安装 WP Super Cache 和 W3 Total Cache,会造成缓存冲突。
- 不要给整站设置密码保护(如 HTTP 基础认证),否则爬虫无法通过验证。如果确实需要密码,建议只对后台目录设置。
- 不要过度使用 404 页面跳转,某些伪静态规则会把不存在的页面重定向到首页,这会让爬虫认为所有页面内容重复。
如果你正在处理宝塔面板网站不收录的问题,建议先按本文步骤完整执行,再根据自己的环境做微调;
遇到异常时优先回看避坑和高频问题部分。