Cosa controlla robots.txt
Il file robots.txt indica ai crawler dei motori di ricerca quali parti del tuo sito possono o non possono accedere. Non garantisce che le pagine restino fuori dai risultati di ricerca, ma è il modo standard per guidare i crawler ben educati.