Показать сообщение отдельно
Старый 06.04.2018, 22:44   #1
Николай Сипко
Senior Member
 
Регистрация: 17.09.2012
Сообщений: 675
По умолчанию robots.txt for TYPO3

robots.txt
====-===

User-agent: *

# Only allow URLs generated with RealURL
Disallow: /*?id=*
Disallow: /*&id=*

# L=0 is the default language
Disallow: /*?L=0*
Disallow: /*&L=0*

# typeNum = 98 is usually the print version.
Disallow: /*?type=98*
Disallow: /*&type=98*

# Should always be protected (.htaccess)
Disallow: /*/Private/*
Disallow: /fileadmin/templates/html/*
Disallow: /*/Configuration/*

Disallow: /typo3temp/*
Allow: /typo3temp/*.css
Allow: /typo3temp/*.css.*.gzip
Allow: /typo3temp/*.js
Allow: /typo3temp/*.js.*.gzip
Allow: /typo3temp/*.jpg
Allow: /typo3temp/*.gif
Allow: /typo3temp/*.png

Disallow: *.sql
Disallow: *.sql.gz

Sitemap: http://www.xxx.com/sitemap

=======
https://gist.github.com/oliverthiele...20413fd981e062

Тут, конечно,
# typeNum = 98 is usually the print version.
Disallow: /*?type=98*
Disallow: /*&type=98*
уже излишне. Современные браузеры могут печатать pdf намного лучше, чем имеющееся и давно не обновляющееся расширение web2pdf.

Но в целом этот robots.txt не вызывает нареканий.
Мой robots.txt
=======
User-agent: *
Disallow: /*?id=*
Disallow: /*&id=*
Disallow: /*?L=0*
Disallow: /*&L=0*
Disallow: /fileadmin/template/*
Disallow: /typo3temp/*
Disallow: *.sql
Disallow: *.sql.gz
Allow: /typo3temp/*.css
Allow: /typo3temp/*.css.*.gzip
Allow: /typo3temp/*.js
Allow: /typo3temp/*.js.*.gzip
Allow: /typo3temp/*.jpg
Allow: /typo3temp/*.gif
Allow: /typo3temp/*.png
Host: nsf11.ru
=======
Может, что-нибудь нужно добавить?

Последний раз редактировалось Николай Сипко; 16.02.2019 в 10:51
Николай Сипко вне форума   Ответить с цитированием