GPTBot, OAI-SearchBot, ChatGPT-User : qui consulte votre site ?
OpenAI documente plusieurs types d’accès. OAI-SearchBot sert à la recherche ; GPTBot collecte des contenus susceptibles de servir à l’entraînement des modèles ; ChatGPT-User intervient pour certaines consultations demandées par un utilisateur. Autoriser ou bloquer l’un n’équivaut pas à prendre la même décision pour les autres.
Pour ChatGPT Search, vérifiez l’accès d’OAI-SearchBot. Une visite de GPTBot dans les journaux du serveur confirme une requête reçue, pas ce qui a été fait du contenu ensuite. Elle ne prouve ni son indexation, ni une citation, ni son utilisation effective pour entraîner un modèle.
Vérifier toute la chaîne d’accès
Demandez à votre développeur de vérifier robots.txt, les redirections, les codes de réponse et les règles du pare-feu ou du CDN. Une autre protection peut bloquer une page pourtant autorisée dans robots.txt, ou imposer un contrôle avant son ouverture. Le fait que la page fonctionne dans votre navigateur ne suffit pas à confirmer l’accès du robot.
Une requête curl portant un User-Agent de robot peut tester les règles fondées sur cet en-tête. Elle ne prouve pas l’identité du demandeur. Pour reconnaître les véritables robots, utilisez les informations de vérification et les plages IP publiées par OpenAI.
Vérifier le résultat attendu
Après une correction, vérifiez les nouvelles requêtes et le contenu renvoyé par le serveur. Examinez séparément les réponses de recherche et leurs liens. ChatGPT-User effectue certaines consultations à la demande d’un utilisateur : son fonctionnement, y compris vis-à-vis de robots.txt, doit être vérifié dans la documentation. Un accès rétabli ne garantit pas que la page sera citée.
Sources et ressources
Guides associés
- JavaScript : vérifier ce que les robots peuvent lire
- llms.txt : à quoi sert ce fichier, concrètement ?
Publié: · Relu par l’équipe éditoriale de geo-rank.ai · Comment nous vérifions