# FICHIER robots.txt - SEP - obarrault 03/12/2003 # # User-agent: WebTrends,fast,FAST-WebCrawler,Googlebot,Scooter,MSIECrawler User-agent: * Disallow: /_Dev/ Disallow: /_LogFiles/ Disallow: /_LogFiles_intranet/ Disallow: /acces/ Disallow: /newsletter/ Disallow: /stats/ Disallow: /menu/ Disallow: /flash/ Disallow: /admin.php Disallow: # # Disallow:/ Permet d'exclure toutes les pages du serveur (aucune aspiration possible). # Disallow: Permet de n'exclure aucune page du serveur (aucune contrainte). Un fichier robots.txt vide ou inexistant aura une conséquence identique. # User-Agent : fast Permet d'identifier un robot particulier (ici, celui des moteur Lycos et Fast/Alltheweb). # # User-agent: fast # Disallow: # User-agent: * # Disallow:/ # Permet au spider d'Alltheweb et de Lycos (dont l'index est également fourni par Fast) de tout aspirer, mais refuse les autres robots. #