ClaudeBot
Aussi : anthropic-ai
Robot d'Anthropic collectant du contenu web pour ses modèles.
ClaudeBot est le robot déclaré par Anthropic pour la collecte de contenu web. À l'image de ses équivalents, il se régule par user-agent dans le robots.txt, séparément des accès effectués à la demande d'un utilisateur.
Pour une agence, l'intérêt n'est pas de mémoriser un nom de plus mais d'adopter une méthode : la cartographie de ces robots — GPTBot, ClaudeBot et les autres — évolue vite, avec de nouveaux agents et parfois des agents dédiés au fetch temps réel.
On tient donc à jour une liste de référence des user-agents plutôt que de figer une configuration une fois pour toutes. Une politique d'accès explicite, revue périodiquement, vaut mieux qu'un robots.txt hérité que plus personne ne relit.

Besoin d’appliquer ce concept sur un cas concret ?
Parler de votre prochaine mission