Configuration du robots.txt - Programmation
Marsh Posté le 23-03-2002 à 00:14:56
ReplyMarsh Posté le 23-03-2002 à 00:49:54
La syntaxe correcte définit des "règles d'autorisation" pour chaque "robot".
Ainsi, par exemple, ton fichier robots.txt aura :
User-agent : * <----- interdire à TOUS les robots
Disallow: /tmp/ <---- répertoire/fichiers interdits
Disallow: /tmp/docs/
Disallow: /secret.html
User-agent : googlebot
Disallow : /hidden/
User-agent : cybermapper
Disallow : /doc.htm
Attention, on ne peut pas utiliser de wildcards genre *.htm ou ?truc?.htm? dans la liste des interdits.
[jfdsdjhfuetppo]--Message édité par Indiana Jones--[/jfdsdjhfuetppo]
Marsh Posté le 23-03-2002 à 09:34:34
Reply
Marsh Posté le 22-03-2002 à 15:19:00
Voilà le contenu de mon fichier actuel:
"User-agent: ia_archiver
Disallow: /"
Je voudrai interdire à TOUS les robots, d'aller matter le répertoire XYZ, comment dois je configurer mon robots.txt ?
"User-agent: ia_archiver
Disallow: /
User-agent: *
Disallow: /XYZ/"
??
[jfdsdjhfuetppo]--Message édité par B-52--[/jfdsdjhfuetppo]
---------------
Securis c'est plus de 200 logiciels de sécurité gratuits !