robots.txt
====-===
User-agent: *
# Only allow URLs generated with RealURL
Disallow: /*?id=*
Disallow: /*&id=*
# L=0 is the default language
Disallow: /*?L=0*
Disallow: /*&L=0*
# typeNum = 98 is usually the print version.
Disallow: /*?type=98*
Disallow: /*&type=98*
# Should always be protected (.htaccess)
Disallow: /*/Private/*
Disallow: /fileadmin/templates/html/*
Disallow: /*/Configuration/*
Disallow: /typo3temp/*
Allow: /typo3temp/*.css
Allow: /typo3temp/*.css.*.gzip
Allow: /typo3temp/*.js
Allow: /typo3temp/*.js.*.gzip
Allow: /typo3temp/*.jpg
Allow: /typo3temp/*.gif
Allow: /typo3temp/*.png
Disallow: *.sql
Disallow: *.sql.gz
=======
https://gist.github.com/oliverthiele...20413fd981e062
Тут, конечно,
# typeNum = 98 is usually the print version.
Disallow: /*?type=98*
Disallow: /*&type=98*
уже излишне. Современные браузеры могут печатать pdf намного лучше, чем имеющееся и давно не обновляющееся расширение web2pdf.
Но в целом этот robots.txt не вызывает нареканий.
Мой robots.txt
=======
User-agent: *
Disallow: /*?id=*
Disallow: /*&id=*
Disallow: /*?L=0*
Disallow: /*&L=0*
Disallow: /fileadmin/template/*
Disallow: /typo3temp/*
Disallow: *.sql
Disallow: *.sql.gz
Allow: /typo3temp/*.css
Allow: /typo3temp/*.css.*.gzip
Allow: /typo3temp/*.js
Allow: /typo3temp/*.js.*.gzip
Allow: /typo3temp/*.jpg
Allow: /typo3temp/*.gif
Allow: /typo3temp/*.png
Host: nsf11.ru
=======
Может, что-нибудь нужно добавить?