Cod: Selectaţi tot
User-agent: *
Disallow: /
toti robotii nu vor indexa paginile siteului.
Intrebarea mea este: "Cum le spun robotilor sa nu indexeze paginile siteului NUMAI CU EXCEPTIA urmatoarelor trei:first.php, second.php, third.php?". Deoarece, de exemplu, siteul meu are 100 de fisiere si eu vreau doar trei sa fie indexate. Ar fi mult mai usor pentru mine sa scriu 3 linii de cod pentru fiecare fisier care vreau sa fie indexat decat sa scriu 97 de "Disallow"-uri.