Qué controla robots.txt
El archivo robots.txt indica a los rastreadores de motores de búsqueda qué partes de tu sitio pueden o no acceder. No garantiza que las páginas queden fuera de los resultados de búsqueda, pero es la forma estándar de guiar a rastreadores bien comportados.