← 博客

GPTBot、OAI-SearchBot 与 ChatGPT-User 有何区别?

OpenAI 按用途区分了几种访问:OAI-SearchBot 用于搜索;GPTBot 收集可能用于模型训练的内容;ChatGPT-User 对应某些由用户主动发起的页面访问。OpenAI 的清单里现在还有 OAI-AdsBot,它检查的是作为 ChatGPT 广告提交的页面,与搜索和训练都无关。就前三种而言,放行或屏蔽其中一种,并不等于对另外两种作了同样的决定。

关心的是 ChatGPT Search,就查 OAI-SearchBot 能不能访问。服务器日志里有 GPTBot 的请求,只说明服务器收到过这次请求,证明不了网页已被搜索系统收录、被引用,或者真的用于训练模型。

检查完整访问路径

请开发人员把整条路径查一遍:robots.txt、重定向、HTTP 状态码、防火墙和 CDN 规则。robots.txt 放行了,别的防护措施照样可能拦下请求,或者要求额外验证。页面在您的浏览器里打得开,不代表爬虫也读得到。

用 curl 带上特定的 User-Agent,能测出针对这个请求头的规则,但验证不了身份。要确认来的是不是真爬虫,得用 OpenAI 官方文档提供的验证信息和 IP 范围;请求自称是什么机器人,不能作数。

分开验证访问和搜索结果

改完之后,先看新的请求和服务器返回的内容,再另外测试搜索回答和引用链接。ChatGPT-User 代表某些由用户主动发起的访问,它的行为、robots.txt 对它怎样适用,都要按官方文档核实。访问问题解决了,页面也不一定就会被引用。

参考资料

更新日期: · 发布日期: · 由 geo-rank.ai 编辑团队审核 · 检查方法