Crawlery AI (GPTBot i inne)
Bot delle aziende AI che raccolgono contenuti dai siti - per il training o per risposte in tempo reale.
I crawler AI sono bot con cui le aziende AI raccolgono contenuti da internet: GPTBot (OpenAI), ClaudeBot (Anthropic), PerplexityBot e altri. Alcuni raccolgono dati per il training dei modelli, altri scaricano pagine in tempo reale per rispondere a domande specifiche degli utenti - due ruoli diversi con conseguenze diverse per l'editore. L'editore può gestire l'accesso nel file robots.txt, bloccando o ammettendo singoli bot. La decisione oggi è parte della strategia: il blocco protegge i contenuti dal training, ma può anche tagliare fuori il sito dalle risposte AI - cioè da un canale dove sempre più persone cercano informazioni.