Ce que contrôle robots.txt
Le fichier robots.txt indique aux robots des moteurs de recherche quelles parties de votre site ils peuvent ou non explorer. Il ne garantit pas que les pages restent hors des résultats de recherche, mais c’est la façon standard de guider les robots bien élevés.