Allow/Disallow eşleşmesi nasıl çalışır
Crawler’lar user-agent grupları için en spesifik eşleşen Allow veya Disallow kuralını seçer. Bu test aracı, yaygın kuralların pratik bir alt kümesini uygular; böylece dağıtımdan önce yanlışlıkla engellemeleri fark edebilirsiniz.