#robots.txt for http://www.n24.de/ , Nachrichten User-agent: * Disallow: /php/list_comments.php #Kommentare nicht crawlen Disallow: /php/summarize.php #Kommentare nicht crawlen Disallow: /1/ #XML-Dokumente nicht crawlen