Robots.txt neyi kontrol eder
Robots.txt dosyası, arama motoru tarayıcılarına sitenizin hangi bölümlerine erişebileceklerini veya erişemeyeceklerini bildirir. Sayfaların arama sonuçlarından uzak kalacağını garanti etmez, ancak iyi davranan tarayıcıları yönlendirmenin standart yoludur.