ΠΠ°ΠΊΡΡΠ²Π°Π΅ΠΌ Π±Π΅ΡΠΏΠΎΠ»Π΅Π·Π½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²ΠΎΠΉ Π² robots.txt
ΠΠΏΡΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½ΠΎ: 07.11.2014. ΠΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΎ: 19.08.2019 2 431 2
ΠΡΠ° ΡΡΠ°ΡΡΡ ΠΎΠ± ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΠΈ ΡΠ°ΠΉΠ»Π° robots.txt Π½Π° ΠΏΡΠ°ΠΊΡΠΈΠΊΠ΅ ΠΏΡΠΈΠΌΠ΅Π½ΠΈΡΠ΅Π»ΡΠ½ΠΎ ΠΊ ΡΠ΄Π°Π»Π΅Π½ΠΈΡ Π½Π΅Π½ΡΠΆΠ½ΡΡ ΡΡΡΠ°Π½ΠΈΡ ΠΈΠ· ΠΈΠ½Π΄Π΅ΠΊΡΠ° ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ. ΠΠ°ΠΊΠΈΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ΄Π°Π»ΡΡΡ, ΠΊΠ°ΠΊ ΠΈΡ ΠΈΡΠΊΠ°ΡΡ, ΠΊΠ°ΠΊ ΡΠ±Π΅Π΄ΠΈΡΡΡΡ, ΡΡΠΎ Π½Π΅ Π·Π°Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°Π½ ΠΏΠΎΠ»Π΅Π·Π½ΡΠΉ ΠΊΠΎΠ½ΡΠ΅Π½Ρ. ΠΠΎ ΡΡΡΠΈ ΡΡΠ°ΡΡΡ β ΠΎΠ± ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΠΈ ΠΎΠ΄Π½ΠΎΠΉ Π»ΠΈΡΡ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ β Disallow. ΠΡΠ΅ΡΡΠΎΡΠΎΠ½Π½ΡΡ ΠΈΠ½ΡΡΡΡΠΊΡΠΈΡ ΠΏΠΎ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΡ ΡΠ°ΠΉΠ»Π° ΡΠΎΠ±ΠΎΡΡ ΠΈ Π΄ΡΡΠ³ΠΈΡ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ² Π² ΠΠΎΠΌΠΎΡΠΈ Π―Π½Π΄Π΅ΠΊΡΠ°.
Π Π±ΠΎΠ»ΡΡΠΈΠ½ΡΡΠ²Π΅ ΡΠ»ΡΡΠ°Π΅Π² Π·Π°ΠΊΡΡΠ²Π°Π΅ΠΌ Π½Π΅Π½ΡΠΆΠ½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ Π΄Π»Ρ Π²ΡΠ΅Ρ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΎΠ±ΠΎΡΠΎΠ², ΡΠΎ Π΅ΡΡΡ ΠΏΡΠ°Π²ΠΈΠ»Π° Disallow ΡΠΊΠ°Π·ΡΠ²Π°Π΅ΠΌ Π΄Π»Ρ User-agent: *.
User-agent: *
Disallow: /cgi-bin
Π§ΡΠΎ Π½ΡΠΆΠ½ΠΎ Π·Π°ΠΊΡΡΠ²Π°ΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ?
ΠΡΠΈ ΠΏΠΎΠΌΠΎΡΠΈ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ Disallow Π² ΡΠ°ΠΉΠ»Π΅ robots.txt Π½ΡΠΆΠ½ΠΎ Π·Π°ΠΊΡΡΠ²Π°ΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠΌΠΈ Π±ΠΎΡΠ°ΠΌΠΈ:
ΠΠ°ΠΊ ΠΈΡΠΊΠ°ΡΡ ΡΡΡΠ°Π½ΠΈΡΡ, ΠΊΠΎΡΠΎΡΡΠ΅ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ?
ComparseR
ΠΡΠΎΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°ΡΡ ΡΠ°ΠΉΡ ΠΠΎΠΌΠΏΠ°ΡΡΠ΅ΡΠΎΠΌ ΠΈ ΡΠΏΡΠ°Π²Π° Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ΅ Β«Π‘ΡΡΡΠΊΡΡΡΠ°Β» ΠΏΠΎΡΡΡΠΎΠΈΡΡ Π΄Π΅ΡΠ΅Π²ΠΎ ΡΠ°ΠΉΡΠ°:


ΠΡΠΎΡΠΌΠΎΡΡΠ΅ΡΡ Π²ΡΠ΅ Π²Π»ΠΎΠΆΠ΅Π½Π½ΡΠ΅ Β«Π²Π΅ΡΠ²ΠΈΒ» Π΄Π΅ΡΠ΅Π²Π°.
ΠΠΎΠ»ΡΡΠΈΡΡ Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ°Ρ Β«Π―Π½Π΄Π΅ΠΊΡΒ» ΠΈ Β«GoogleΒ» ΡΡΡΠ°Π½ΠΈΡΡ Π² ΠΈΠ½Π΄Π΅ΠΊΡΠ΅ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ. ΠΠ°ΡΠ΅ΠΌ Π² ΡΡΠ°ΡΠΈΡΡΠΈΠΊΠ΅ ΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°Π½ΠΈΡ ΠΏΡΠΎΡΠΌΠΎΡΡΠ΅ΡΡ Π°Π΄ΡΠ΅ΡΠ° ΡΡΡΠ°Π½ΠΈΡ Π² Β«ΠΠ°ΠΉΠ΄Π΅Π½ΠΎ Π² Π―Π½Π΄Π΅ΠΊΡ, Π½Π΅ ΠΎΠ±Π½Π°ΡΡΠΆΠ΅Π½ΠΎ Π½Π° ΡΠ°ΠΉΡΠ΅Β» ΠΈ Β«ΠΠ°ΠΉΠ΄Π΅Π½ΠΎ Π² Google Π½Π΅ ΠΎΠ±Π½Π°ΡΡΠΆΠ΅Π½ΠΎ Π½Π° ΡΠ°ΠΉΡΠ΅Β».
Π―Π½Π΄Π΅ΠΊΡ.ΠΠ΅Π±ΠΌΠ°ΡΡΠ΅Ρ
Π ΡΠ°Π·Π΄Π΅Π»Π΅ Β«ΠΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°Π½ΠΈΠ΅Β» β Β«Π‘ΡΡΡΠΊΡΡΡΠ° ΡΠ°ΠΉΡΠ°Β» ΠΏΡΠΎΡΠΌΠΎΡΡΠ΅ΡΡ Π²ΡΠ΅ Β«Π²Π΅ΡΠ²ΠΈΒ» ΡΡΡΡΠΊΡΡΡΡ.


ΠΡΠΎΠ²Π΅ΡΠΈΡΡ, ΡΡΠΎ ΡΠ»ΡΡΠ°ΠΉΠ½ΠΎ Π½Π΅ Π±ΡΠ» Π·Π°Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°Π½ ΠΏΠΎΠ»Π΅Π·Π½ΡΠΉ ΠΊΠΎΠ½ΡΠ΅Π½Ρ
ΠΠ΅ΡΠ΅ΡΠΈΡΠ»Π΅Π½Π½ΡΠ΅ Π΄Π°Π»Π΅Π΅ ΠΌΠ΅ΡΠΎΠ΄Ρ Π΄ΠΎΠΏΠΎΠ»Π½ΡΡΡ Π΄ΡΡΠ³ Π΄ΡΡΠ³Π°.
robots.txt
ΠΡΠΎΡΠΌΠΎΡΡΠ΅ΡΡ ΡΠΎΠ΄Π΅ΡΠΆΠΈΠΌΠΎΠ΅ ΡΠ°ΠΉΠ»Π° robots.txt.
Comparser (ΠΏΡΠΎΠ²Π΅ΡΠΊΠ° Π½Π° Π·Π°ΠΊΡΡΡΠΈΠ΅ ΠΌΠ΅ΡΠ°-ΡΠ΅Π³ΠΎΠΌ ΡΠΎΠ±ΠΎΡΡ)
Π Π½Π°ΡΡΡΠΎΠΉΠΊΠ°Ρ ΠΠΎΠΌΠΏΠ°ΡΡΠ΅ΡΠ° ΠΏΠ΅ΡΠ΅Π΄ ΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°Π½ΠΈΠ΅ΠΌ ΡΠ½ΡΡΡ Π³Π°Π»ΠΎΡΠΊΡ:


ΠΡΠΎΠ°Π½Π°Π»ΠΈΠ·ΠΈΡΠΎΠ²Π°ΡΡ ΡΠ΅Π·ΡΠ»ΡΡΠ°ΡΡ ΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°Π½ΠΈΡ ΡΠΏΡΠ°Π²Π°:


Search Console (ΠΏΡΠΎΠ²Π΅ΡΠΊΠ° ΠΏΠΎΠ»Π΅Π·Π½ΡΡ Π·Π°Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°Π½Π½ΡΡ ΡΠ΅ΡΡΡΡΠΎΠ²)
ΠΠ°ΠΆΠ½ΠΎ ΡΠ±Π΅Π΄ΠΈΡΡΡΡ, ΡΡΠΎ ΡΠΎΠ±ΠΎΡ Google ΠΈΠΌΠ΅Π΅Ρ Π΄ΠΎΡΡΡΠΏ ΠΊ ΡΠ°ΠΉΠ»Π°ΠΌ ΡΡΠΈΠ»Π΅ΠΉ ΠΈ ΠΈΠ·ΠΎΠ±ΡΠ°ΠΆΠ΅Π½ΠΈΡΠΌ, ΠΈΡΠΏΠΎΠ»ΡΠ·ΡΠ΅ΠΌΡΠΌ ΠΏΡΠΈ ΠΎΡΠΎΠ±ΡΠ°ΠΆΠ΅Π½ΠΈΠΈ ΡΡΡΠ°Π½ΠΈΡ. ΠΠ»Ρ ΡΡΠΎΠ³ΠΎ Π½ΡΠΆΠ½ΠΎ Π²ΡΠ±ΠΎΡΠΎΡΠ½ΠΎ ΠΏΡΠΎΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°ΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈΠ½ΡΡΡΡΠΌΠ΅Π½ΡΠΎΠΌ Β«ΠΠΎΡΠΌΠΎΡΡΠ΅ΡΡ, ΠΊΠ°ΠΊ GooglebotΒ», Π½Π°ΠΆΠ°Π² Π½Π° ΠΊΠ½ΠΎΠΏΠΊΡ Β«ΠΠΎΠ»ΡΡΠΈΡΡ ΠΈ ΠΎΡΠΎΠ±ΡΠ°Π·ΠΈΡΡΒ». ΠΠΎΠ»ΡΡΠ΅Π½Π½ΡΠ΅ Π² ΡΠ΅Π·ΡΠ»ΡΡΠ°ΡΠ΅ Π΄Π²Π° ΠΈΠ·ΠΎΠ±ΡΠ°ΠΆΠ΅Π½ΠΈΡ Β«Π’Π°ΠΊ ΡΠ²ΠΈΠ΄Π΅Π» ΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠΎΠ±ΠΎΡ GooglebotΒ» ΠΈ Β«Π’Π°ΠΊ ΡΠ²ΠΈΠ΄ΠΈΡ ΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΠΏΠΎΡΠ΅ΡΠΈΡΠ΅Π»Ρ ΡΠ°ΠΉΡΠ°Β» Π΄ΠΎΠ»ΠΆΠ½Ρ Π²ΡΠ³Π»ΡΠ΄Π΅ΡΡ ΠΏΡΠ°ΠΊΡΠΈΡΠ΅ΡΠΊΠΈ ΠΎΠ΄ΠΈΠ½Π°ΠΊΠΎΠ²ΠΎ. ΠΡΠΈΠΌΠ΅Ρ ΡΡΡΠ°Π½ΠΈΡΡ Ρ ΠΏΡΠΎΠ±Π»Π΅ΠΌΠ°ΠΌΠΈ:


Π£Π²ΠΈΠ΄Π΅ΡΡ Π·Π°Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°Π½Π½ΡΠ΅ ΡΠ°ΡΡΠΈ ΡΡΡΠ°Π½ΠΈΡΡ ΠΌΠΎΠΆΠ½ΠΎ Π² ΡΠ°Π±Π»ΠΈΡΠ΅ Π½ΠΈΠΆΠ΅:


ΠΠΎΠ΄ΡΠΎΠ±Π½Π΅Π΅ ΠΎ ΡΠ΅Π·ΡΠ»ΡΡΠ°ΡΠ°Ρ ΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°Π½ΠΈΡ Π² ΡΠΏΡΠ°Π²ΠΊΠ΅ ΠΊΠΎΠ½ΡΠΎΠ»ΠΈ. ΠΡΠ΅ Π·Π°Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°Π½Π½ΡΠ΅ ΡΠ΅ΡΡΡΡΡ Π½ΡΠΆΠ½ΠΎ ΡΠ°Π·Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°ΡΡ Π² ΡΠ°ΠΉΠ»Π΅ robots.txt ΠΏΡΠΈ ΠΏΠΎΠΌΠΎΡΠΈ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ Allow (Π½Π΅ ΠΏΠΎΠ»ΡΡΠΈΡΡΡ ΡΠ°Π·Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°ΡΡ ΡΠΎΠ»ΡΠΊΠΎ Π²Π½Π΅ΡΠ½ΠΈΠ΅ ΡΠ΅ΡΡΡΡΡ). ΠΡΠΈ ΡΡΠΎΠΌ Π½ΡΠΆΠ½ΠΎ ΡΠΎΡΠ΅ΡΠ½ΠΎ ΡΠ°Π·Π±Π»ΠΎΠΊΠΈΡΠΎΠ²Π°ΡΡ ΡΠΎΠ»ΡΠΊΠΎ Π½ΡΠΆΠ½ΡΠ΅ ΡΠ΅ΡΡΡΡΡ. Π ΠΏΡΠΈΠ²Π΅Π΄ΡΠ½Π½ΠΎΠΌ ΠΏΡΠΈΠΌΠ΅ΡΠ΅ Π±ΠΎΡΡ ΠΡΠ³Π»Π° Π·Π°ΠΏΡΠ΅ΡΡΠ½ Π΄ΠΎΡΡΡΠΏ ΠΊ ΠΏΠ°ΠΏΠΊΠ΅ /templates/, Π½ΠΎ ΠΎΡΠΊΡΡΡ Π½Π΅ΠΊΠΎΡΠΎΡΡΠΌ ΡΠΈΠΏΠ°ΠΌ ΡΠ°ΠΉΠ»ΠΎΠ² Π²Π½ΡΡΡΠΈ ΡΡΠΎΠΉ ΠΏΠ°ΠΏΠΊΠΈ:
User-agent: Googlebot
Allow: /templates/*.css
Allow: /templates/*.js
Allow: /templates/*.png
Allow: /templates/*.jpg
Allow: /templates/*.woff
Allow: /templates/*.ttf
Allow: /templates/*.svg
Disallow: /templates/
ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ°ΠΉΡ, ΡΡΡΠ»ΠΊΡ, ΡΡΡΠ°Π½ΠΈΡΡ, Π² robots ?
ΠΠ°Π»Π΅ΠΊΠΎ Π½Π΅ Π²ΡΠ΅Π³Π΄Π° Π½ΡΠΆΠ½ΠΎ, ΡΡΠΎΠ±Ρ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°Π»ΠΈ Π²ΡΡ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΡ Π½Π° ΡΠ°ΠΉΡΠ΅.
ΠΠ½ΠΎΠ³Π΄Π°, Π²Π΅Π±ΠΌΠ°ΡΡΠ΅ΡΠ°ΠΌ Π΄Π°ΠΆΠ΅ Π½ΡΠΆΠ½ΠΎ ΠΏΠΎΠ»Π½ΠΎΡΡΡΡ Π·Π°ΠΊΡΡΡΡ ΡΠ°ΠΉΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, Π½ΠΎ Π½ΠΎΠ²ΠΈΡΠΊΠΈ Π½Π΅ Π·Π½Π°ΡΡ, ΠΊΠ°ΠΊ ΡΡΠΎ ΡΠ΄Π΅Π»Π°ΡΡ. ΠΡΠΈ ΠΆΠ΅Π»Π°Π½ΠΈΠΈ, ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΡΡΡΡ ΠΎΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΈΠΊΠΎΠ² Π»ΡΠ±ΠΎΠΉ ΠΊΠΎΠ½ΡΠ΅Π½Ρ, ΡΠ΅ΡΡΡΡ ΠΈΠ»ΠΈ Π΅Π³ΠΎ ΠΎΡΠ΄Π΅Π»ΡΠ½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ.
ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ°ΠΉΡ, ΡΡΡΠ»ΠΊΡ, ΡΡΡΠ°Π½ΠΈΡΡ? ΠΡΡΡ Π½Π΅ΡΠΊΠΎΠ»ΡΠΊΠΎ ΠΏΡΠΎΡΡΡΡ ΡΡΠ½ΠΊΡΠΈΠΉ, ΠΊΠΎΡΠΎΡΡΠ΅ Π²Ρ ΡΠΌΠΎΠΆΠ΅ΡΠ΅ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡ, Π΄Π»Ρ Π·Π°ΠΊΡΡΡΠΈΡ Π»ΡΠ±ΠΎΠΉ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΠΈ ΠΎΡ Π―Π½Π΄Π΅ΠΊΡΠ° ΠΈ ΠΡΠ³Π»Π°. Π ΡΡΠΎΠΉ ΡΡΠ°ΡΡΠ΅ ΠΌΡ ΠΏΠΎΠ΄ΡΠΊΠ°ΠΆΠ΅ΠΌ, ΠΊΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΡΠ°ΠΉΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ΅ΡΠ΅Π· robots, ΠΈ ΠΏΠΎΠΊΠ°ΠΆΠ΅ΠΌ, ΠΊΠ°ΠΊΠΎΠΉ ΠΊΠΎΠ΄ Π½ΡΠΆΠ½ΠΎ Π΄ΠΎΠ±Π°Π²ΠΈΡΡ Π² ΡΡΠΎΡ ΡΠ°ΠΉΠ».
ΠΠ°ΠΊΡΡΠ²Π°Π΅ΠΌ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΈΠΊΠΎΠ²
ΠΠ΅ΡΠ΅Π΄ ΡΠ΅ΠΌ ΠΊΠ°ΠΊ ΡΠ°ΡΡΠΊΠ°Π·Π°ΡΡ ΠΎ ΡΠΏΠΎΡΠΎΠ±Π΅ Ρ ΠΏΡΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ΠΌ robots.txt, ΠΌΡ ΠΏΠΎΠΊΠ°ΠΆΠ΅ΠΌ, ΠΊΠ°ΠΊ Π½Π° WordPress Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ°ΠΉΡ ΡΠ΅ΡΠ΅Π· Π°Π΄ΠΌΠΈΠ½ΠΊΡ. Π Π½Π°ΡΡΡΠΎΠΉΠΊΠ°Ρ (ΡΠ°Π·Π΄Π΅Π» ΡΡΠ΅Π½ΠΈΠ΅), Π΅ΡΡΡ ΡΠ΄ΠΎΠ±Π½Π°Ρ ΡΡΠ½ΠΊΡΠΈΡ:
ΠΠΎΠΆΠ½ΠΎ ΡΠ±ΡΠ°ΡΡ Π²ΠΈΠ΄ΠΈΠΌΠΎΡΡΡ ΡΠ°ΠΉΡΠ°, Π½ΠΎ ΠΎΠ±ΡΠ°ΡΠΈΡΠ΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅ Π½Π° ΠΏΠΎΠ΄ΡΠΊΠ°Π·ΠΊΡ. Π Π½Π΅ΠΉ Π³ΠΎΠ²ΠΎΡΠΈΡΡΡ, ΡΡΠΎ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ Π²ΡΡ ΠΆΠ΅ ΠΌΠΎΠ³ΡΡ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ ΡΠ΅ΡΡΡΡ, ΠΏΠΎΡΡΠΎΠΌΡ Π»ΡΡΡΠ΅ Π²ΠΎΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡΡΡ ΠΏΡΠΎΠ²Π΅ΡΠ΅Π½Π½ΡΠΌ ΡΠΏΠΎΡΠΎΠ±ΠΎΠΌ ΠΈ Π΄ΠΎΠ±Π°Π²ΠΈΡΡ Π½ΡΠΆΠ½ΡΠΉ ΠΊΠΎΠ΄ Π² robots.txt.
Π’Π΅ΠΊΡΡΠΎΠ²ΡΠΉ ΡΠ°ΠΉΠ» robots Π½Π°Ρ ΠΎΠ΄ΠΈΡΡΡ Π² ΠΊΠΎΡΠ½Π΅ ΡΠ°ΠΉΡΠ°, Π° Π΅ΡΠ»ΠΈ Π΅Π³ΠΎ ΡΠ°ΠΌ Π½Π΅Ρ, ΡΠΎΠ·Π΄Π°ΠΉΡΠ΅ Π΅Π³ΠΎ ΡΠ΅ΡΠ΅Π· Π±Π»ΠΎΠΊΠ½ΠΎΡ.
ΠΠ°ΠΊΡΡΡΡ ΡΠ°ΠΉΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ ΡΠ»Π΅Π΄ΡΡΡΠΈΠΉ ΠΊΠΎΠ΄:
User-agent: *
Disallow: /
ΠΡΠΎΡΡΠΎ Π΄ΠΎΠ±Π°Π²ΡΡΠ΅ Π΅Π³ΠΎ Π½Π° ΠΏΠ΅ΡΠ²ΡΡ ΡΡΡΠΎΡΠΊΡ (Π·Π°ΠΌΠ΅Π½ΠΈΡΠ΅ ΡΠΆΠ΅ ΠΈΠΌΠ΅ΡΡΠΈΠ΅ΡΡ ΡΡΡΠΎΡΠΊΠΈ). ΠΡΠ»ΠΈ Π½ΡΠΆΠ½ΠΎ Π·Π°ΠΊΡΡΡΡ ΡΠ°ΠΉΡ ΡΠΎΠ»ΡΠΊΠΎ ΠΎΡ Π―Π½Π΄Π΅ΠΊΡΠ°, Π²ΠΌΠ΅ΡΡΠΎ Π·Π²Π΅Π·Π΄ΠΎΡΠΊΠΈ ΡΠΊΠ°Π·ΡΠ²Π°ΠΉΡΠ΅ Yandex, Π΅ΡΠ»ΠΈ Π·Π°ΠΊΡΡΠ²Π°Π΅ΡΠ΅ ΡΠ΅ΡΡΡΡ ΠΎΡ Google, Π²ΡΡΠ°Π²Π»ΡΠΉΡΠ΅ Googlebot.
ΠΡΠ»ΠΈ Π½Π΅ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡ ΡΡΠΎΡ ΡΠΏΠΎΡΠΎΠ±, ΠΏΡΠΎΡΡΠΎ Π΄ΠΎΠ±Π°Π²ΡΡΠ΅ Π² ΠΊΠΎΠ΄ ΡΠ°ΠΉΡΠ° ΡΡΡΠΎΡΠΊΡ <meta name=Β»robotsΒ» content=Β»noindex,followΒ» />.
ΠΠΎΠ³Π΄Π° ΠΏΡΠΎΠ΄Π΅Π»Π°Π΅ΡΠ΅ ΡΡΠΈ Π΄Π΅ΠΉΡΡΠ²ΠΈΡ, ΡΠ°ΠΉΡ Π±ΠΎΠ»ΡΡΠ΅ Π½Π΅ Π±ΡΠ΄Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡΡΡ, ΡΡΠΎ ΡΠ°ΠΌΡΠΉ Π»ΡΡΡΠΈΠΉ ΡΠΏΠΎΡΠΎΠ± Π΄Π»Ρ Π·Π°ΠΊΡΡΡΠΈΡ ΡΠ΅ΡΡΡΡΠ° ΠΎΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΎΠ±ΠΎΡΠΎΠ².
ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ?
ΠΡΠ»ΠΈ Π½ΡΠΆΠ½ΠΎ ΡΠΊΡΡΡΡ ΡΠΎΠ»ΡΠΊΠΎ ΠΎΠ΄Π½Ρ ΡΡΡΠ°Π½ΠΈΡΡ, ΡΠΎ Π² ΡΠ°ΠΉΠ»Π΅ robots Π½ΡΠΆΠ½ΠΎ Π±ΡΠ΄Π΅Ρ ΠΏΡΠΎΠΏΠΈΡΠ°ΡΡ Π΄ΡΡΠ³ΠΎΠΉ ΠΊΠΎΠ΄:
User-agent: *
Disallow: /category/kak-nachat-zarabatyvat
ΠΠΎ Π²ΡΠΎΡΠΎΠΉ ΡΡΡΠΎΡΠΊΠ΅ Π²Π°ΠΌ Π½ΡΠΆΠ½ΠΎ ΡΠΊΠ°Π·Π°ΡΡ Π°Π΄ΡΠ΅Ρ ΡΡΡΠ°Π½ΠΈΡΡ, Π½ΠΎ Π±Π΅Π· Π½Π°Π·Π²Π°Π½ΠΈΡ Π΄ΠΎΠΌΠ΅Π½Π°. ΠΠ°ΠΊ Π²Π°ΡΠΈΠ°Π½Ρ, Π²Ρ ΠΌΠΎΠΆΠ΅ΡΠ΅ Π·Π°ΠΊΡΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, Π΅ΡΠ»ΠΈ ΠΏΡΠΎΠΏΠΈΡΠΈΡΠ΅ Π² Π΅Ρ ΠΊΠΎΠ΄Π΅:
<META NAME=Β»ROBOTSΒ» CONTENT=Β»NOINDEXΒ»>
ΠΡΠΎ Π±ΠΎΠ»Π΅Π΅ ΡΠ»ΠΎΠΆΠ½ΡΠΉ Π²Π°ΡΠΈΠ°Π½Ρ, Π½ΠΎ Π΅ΡΠ»ΠΈ Π½Π΅Ρ ΠΆΠ΅Π»Π°Π½ΠΈΡ Π΄ΠΎΠ±Π°Π²Π»ΡΡΡ ΡΡΡΠΎΡΠΊΠΈ Π² robots.txt, ΡΠΎ ΡΡΠΎ ΠΎΡΠ»ΠΈΡΠ½ΡΠΉ Π²ΡΡ ΠΎΠ΄. ΠΡΠ»ΠΈ Π²Ρ ΠΏΠΎΠΏΠ°Π»ΠΈ Π½Π° ΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ Π² ΠΏΠΎΠΈΡΠΊΠ°Ρ ΡΠΏΠΎΡΠΎΠ±Π° Π·Π°ΠΊΡΡΡΠΈΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π΄ΡΠ±Π»Π΅ΠΉ, ΡΠΎ ΠΏΡΠΎΡΠ΅ Π²ΡΠ΅Π³ΠΎ Π΄ΠΎΠ±Π°Π²ΠΈΡΡ Π²ΡΠ΅ ΡΡΡΠ»ΠΊΠΈ Π² robots.
ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΡΡΠ»ΠΊΡ ΠΈΠ»ΠΈ ΡΠ΅ΠΊΡΡ?
ΠΠ΄Π΅ΡΡ ΡΠΎΠΆΠ΅ Π½Π΅Ρ Π½ΠΈΡΠ΅Π³ΠΎ ΡΠ»ΠΎΠΆΠ½ΠΎΠ³ΠΎ, Π½ΡΠΆΠ½ΠΎ Π»ΠΈΡΡ Π΄ΠΎΠ±Π°Π²ΠΈΡΡ ΡΠΏΠ΅ΡΠΈΠ°Π»ΡΠ½ΡΠ΅ ΡΠ΅Π³ΠΈ Π² ΠΊΠΎΠ΄ ΡΡΡΠ»ΠΊΠΈ ΠΈΠ»ΠΈ ΠΎΠΊΡΡΠΆΠΈΡΡ Π΅Ρ ΠΈΠΌΠΈ:
<noindex>
<a rel=Β»nofollowΒ» href=Β»http://Workion.ru/Β»>ΠΠ½ΠΊΠΎΡ</a>
</noindex>
ΠΡΠΏΠΎΠ»ΡΠ·ΡΡ ΡΡΠΈ ΠΆΠ΅ ΡΠ΅Π³ΠΈ noindex, Π²Ρ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΡΠΊΡΡΠ²Π°ΡΡ ΠΎΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ ΡΠ°Π·Π½ΡΠΉ ΡΠ΅ΠΊΡΡ. ΠΠ»Ρ ΡΡΠΎΠ³ΠΎ Π½ΡΠΆΠ½ΠΎ Π² ΡΠ΅Π΄Π°ΠΊΡΠΎΡΠ΅ ΡΡΠ°ΡΡΠΈ ΠΏΡΠΎΠΏΠΈΡΠ°ΡΡ ΡΡΠΎΡ ΡΠ΅Π³.
Π ΡΠΎΠΆΠ°Π»Π΅Π½ΠΈΡ, Ρ Google ΡΠ°ΠΊΠΎΠ³ΠΎ ΡΠ΅Π³Π° Π½Π΅Ρ, ΠΏΠΎΡΡΠΎΠΌΡ ΡΠΊΡΡΡΡ ΠΎΡ Π½Π΅Π³ΠΎ ΡΠ°ΡΡΡ ΡΠ΅ΠΊΡΡΠ° Π½Π΅ ΠΏΠΎΠ»ΡΡΠΈΡΡΡ. Π‘Π°ΠΌΡΠΉ ΠΏΡΠΎΡΡΠΎΠΉ Π²Π°ΡΠΈΠ°Π½Ρ ΡΠ΄Π΅Π»Π°ΡΡ ΡΡΠΎ β Π΄ΠΎΠ±Π°Π²ΠΈΡΡ ΠΈΠ·ΠΎΠ±ΡΠ°ΠΆΠ΅Π½ΠΈΠ΅ Ρ ΡΠ΅ΠΊΡΡΠΎΠΌ.
Π‘ΠΊΡΡΠ²Π°ΠΉΡΠ΅ ΠΎΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΎΠ±ΠΎΡΠΎΠ² Π²ΡΡ, ΡΡΠΎ Π½Π΅ ΡΠ½ΠΈΠΊΠ°Π»ΡΠ½ΠΎ ΠΈΠ»ΠΈ ΠΊΠ°ΠΊΠΈΠΌ-ΡΠΎ ΠΎΠ±ΡΠ°Π·ΠΎΠΌ ΠΌΠΎΠΆΠ΅Ρ Π½Π°ΡΡΡΠ°ΡΡ ΠΈΡ ΠΏΡΠ°Π²ΠΈΠ»Π°. Π Π΅ΡΠ»ΠΈ Π²Ρ ΡΠ΅ΡΠΈΠ»ΠΈ ΠΏΠΎΠ»Π½ΠΎΡΡΡΡ ΠΏΠ΅ΡΠ΅Π΄Π΅Π»Π°ΡΡ ΡΠ°ΠΉΡ, ΡΠΎ ΠΎΠ±ΡΠ·Π°ΡΠ΅Π»ΡΠ½ΠΎ Π·Π°ΠΊΡΡΠ²Π°ΠΉΡΠ΅ Π΅Π³ΠΎ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, ΡΡΠΎΠ±Ρ Π±ΠΎΡΡ Π½Π΅ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°Π»ΠΈ Π²Π½Π΅ΡΠ΅Π½Π½ΡΠ΅ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΡ Π΄ΠΎ ΡΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ Π²Ρ Π½Π°Π΄ Π½ΠΈΠΌΠΈ ΠΏΠΎΡΠ°Π±ΠΎΡΠ°Π΅ΡΠ΅ ΠΈ Π²ΡΡ ΠΏΡΠΎΡΠ΅ΡΡΠΈΡΡΠ΅ΡΠ΅.
ΠΠ°ΠΌ ΡΠ°ΠΊΠΆΠ΅ Π±ΡΠ΄Π΅Ρ ΠΈΠ½ΡΠ΅ΡΠ΅ΡΠ½ΠΎ:
β Π‘ΠΊΠΎΡΠΎΡΡΡ ΡΠ°ΠΉΡΠ° β Π²Π°ΠΆΠ½ΡΠΉ ΡΠ°ΠΊΡΠΎΡ
β ΠΠΎΡΠ΅ΠΌΡ Π―Π½Π΄Π΅ΠΊΡ Π½Π΅ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΡΠ΅Ρ ΡΠ°ΠΉΡ?
β ΠΡΠΈΠ³ΠΈΠ½Π°Π»ΡΠ½ΡΠ΅ ΡΠ΅ΠΊΡΡΡ Π΄Π»Ρ Π·Π°ΡΠΈΡΡ ΠΎΡ Yandex
ΠΠ°ΠΊ Π½Π°ΡΡΡΠΎΠΈΡΡ robots.txt? ΠΡΠΎΠ²Π΅ΡΠΈΡΡ ΡΠ°ΠΉΠ» robots.txt, Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΡΡΠ°Π½ΠΈΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅

Π€Π°ΠΉΠ» robots.txt ΡΠΏΡΠ°Π²Π»ΡΠ΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠ΅ΠΉ ΡΠ°ΠΉΡΠ°. Π Π½Π΅ΠΌ ΡΠΎΠ΄Π΅ΡΠΆΠ°ΡΡΡ ΠΊΠΎΠΌΠ°Π½Π΄Ρ, ΠΊΠΎΡΠΎΡΡΠ΅ ΡΠ°Π·ΡΠ΅ΡΠ°ΡΡ ΠΈΠ»ΠΈ Π·Π°ΠΏΡΠ΅ΡΠ°ΡΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠΌ ΡΠΈΡΡΠ΅ΠΌΠ°ΠΌ Π΄ΠΎΠ±Π°Π²Π»ΡΡΡ Π² ΡΠ²ΠΎΡ Π±Π°Π·Ρ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈΠ»ΠΈ ΡΠ°Π·Π΄Π΅Π»Ρ Π½Π° ΡΠ°ΠΉΡΠ΅. ΠΠ°ΠΏΡΠΈΠΌΠ΅Ρ, Π½Π° ΠΠ°ΡΠ΅ΠΌ ΡΠ°ΠΉΡΠ΅ ΠΈΠΌΠ΅Π΅ΡΡΡ ΡΠ°Π·Π΄Π΅Π» Ρ ΠΊΠΎΠ½ΡΠΈΠ΄Π΅Π½ΡΠΈΠ°Π»ΡΠ½ΠΎΠΉ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΠ΅ΠΉ ΠΈΠ»ΠΈ ΡΠ»ΡΠΆΠ΅Π±Π½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ. ΠΡ Π½Π΅ Ρ ΠΎΡΠΈΡΠ΅, ΡΡΠΎΠ±Ρ ΠΎΠ½ΠΈ Π½Π°Ρ ΠΎΠ΄ΠΈΠ»ΠΈΡΡ Π² ΠΈΠ½Π΄Π΅ΠΊΡΠ΅ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ, ΠΈ Π½Π°ΡΡΡΠ°ΠΈΠ²Π°Π΅ΡΠ΅ Π·Π°ΠΏΡΠ΅Ρ Π½Π° ΠΈΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ Π² ΡΠ°ΠΉΠ»Π΅ robots.txt.
Π Π΄Π°Π½Π½ΠΎΠΉ ΡΡΠ°ΡΡΠ΅ ΠΌΡ ΡΠ°ΡΡΠΌΠΎΡΡΠΈΠΌ, ΠΊΠ°ΠΊ Π½Π°ΡΡΡΠΎΠΈΡΡ robots.txt ΠΈ ΠΏΡΠΎΠ²Π΅ΡΠΈΡΡ ΠΏΡΠ°Π²ΠΈΠ»ΡΠ½ΠΎΡΡΡ ΡΠΊΠ°Π·Π°Π½Π½ΡΡ Π² Π½Π΅ΠΌ ΠΊΠΎΠΌΠ°Π½Π΄. ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ°ΠΉΡ ΡΠ΅Π»ΠΈΠΊΠΎΠΌ ΠΈΠ»ΠΈ ΠΎΡΠ΄Π΅Π»ΡΠ½ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈΠ»ΠΈ ΡΠ°Π·Π΄Π΅Π»Ρ.
Π§ΡΠΎΠ±Ρ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ Π½Π°ΡΠ»ΠΈ ΡΠ°ΠΉΠ», ΠΎΠ½ Π΄ΠΎΠ»ΠΆΠ΅Π½ ΡΠ°ΡΠΏΠΎΠ»Π°Π³Π°ΡΡΡΡ Π² ΠΊΠΎΡΠ½Π΅Π²ΠΎΠΉ ΠΏΠ°ΠΏΠΊΠ΅ ΡΠ°ΠΉΡΠ° ΠΈ Π±ΡΡΡ Π΄ΠΎΡΡΡΠΏΠ½ΡΠΌ ΠΏΠΎ Π°Π΄ΡΠ΅ΡΡ Π²Π°Ρ_ΡΠ°ΠΉΡ.ru/robots.txt. ΠΡΠ»ΠΈ ΡΠ°ΠΉΠ»Π° Π½Π° ΡΠ°ΠΉΡΠ΅ Π½Π΅Ρ, ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ Π±ΡΠ΄ΡΡ ΡΡΠΈΡΠ°ΡΡ, ΡΡΠΎ ΠΌΠΎΠΆΠ½ΠΎ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ Π²ΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅. ΠΡΠΎ ΠΌΠΎΠΆΠ΅Ρ ΠΏΡΠΈΠ²Π΅ΡΡΠΈ ΠΊ ΡΠ΅ΡΡΠ΅Π·Π½ΡΠΌ ΠΏΡΠΎΠ±Π»Π΅ΠΌΠ°ΠΌ, Π² ΡΠ°ΡΡΠ½ΠΎΡΡΠΈ, ΠΏΠΎΠΏΠ°Π΄Π°Π½ΠΈΡ Π² Π±Π°Π·Ρ ΡΡΡΠ°Π½ΠΈΡ-Π΄ΡΠ±Π»Π΅ΠΉ, Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ² Ρ ΠΊΠΎΠ½ΡΠΈΠ΄Π΅Π½ΡΠΈΠ°Π»ΡΠ½ΠΎΠΉ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΠ΅ΠΉ.
Π‘ΡΡΡΠΊΡΡΡΠ° ΡΠ°ΠΉΠ»Π° robots.txt
Π ΡΠ°ΠΉΠ»Π΅ robots.txt Π΄Π»Ρ ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΎΠΉ ΡΠΈΡΡΠ΅ΠΌΡ ΠΌΠΎΠΆΠ½ΠΎ ΠΏΡΠΎΠΏΠΈΡΠ°ΡΡ ΡΠ²ΠΎΠΈ ΠΊΠΎΠΌΠ°Π½Π΄Ρ. ΠΠ°ΠΏΡΠΈΠΌΠ΅Ρ, Π½Π° ΡΠΊΡΠΈΠ½ΡΠΎΡΠ΅ Π½ΠΈΠΆΠ΅ ΠΡ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΡΠ²ΠΈΠ΄Π΅ΡΡ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π΄Π»Ρ ΡΠΎΠ±ΠΎΡΠ° Π―Π½Π΄Π΅ΠΊΡΠ°, Google ΠΈ Π΄Π»Ρ Π²ΡΠ΅Ρ ΠΎΡΡΠ°Π»ΡΠ½ΡΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ:
ΠΠ°ΠΆΠ΄Π°Ρ ΠΊΠΎΠΌΠ°Π½Π΄Π° Π½Π°ΡΠΈΠ½Π°Π΅ΡΡΡ Ρ Π½ΠΎΠ²ΠΎΠΉ ΡΡΡΠΎΠΊΠΈ. ΠΠ΅ΠΆΠ΄Ρ Π±Π»ΠΎΠΊΠ°ΠΌΠΈ ΠΊΠΎΠΌΠ°Π½Π΄ Π΄Π»Ρ ΡΠ°Π·Π½ΡΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ ΠΎΡΡΠ°Π²Π»ΡΡΡ ΠΏΡΡΡΡΡ ΡΡΡΠΎΠΊΡ.
ΠΠ°ΡΡΡΠΎΠΉΠΊΠ° ΡΠ°ΠΉΠ»Π° robots.txt: ΠΎΡΠ½ΠΎΠ²Π½ΡΠ΅ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ
Π§ΡΠΎΠ±Ρ ΠΏΡΠ°Π²ΠΈΠ»ΡΠ½ΠΎ Π½Π°ΡΡΡΠΎΠΈΡΡ ΡΠ°ΠΉΠ» robots.txt, Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ Π·Π½Π°ΡΡ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ β ΠΊΠΎΠΌΠ°Π½Π΄Ρ, ΠΊΠΎΡΠΎΡΡΠ΅ Π²ΠΎΡΠΏΡΠΈΠ½ΠΈΠΌΠ°ΡΡ ΡΠΎΠ±ΠΎΡΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ. ΠΠΈΠΆΠ΅ ΡΠ°ΡΡΠΌΠΎΡΡΠΈΠΌ ΠΎΡΠ½ΠΎΠ²Π½ΡΠ΅ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ Π΄Π»Ρ Π½Π°ΡΡΡΠΎΠΉΠΊΠΈ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΡΠ°ΠΉΡΠ° Π² ΡΠ°ΠΉΠ»Π΅ robots.txt:
ΠΠΈΡΠ΅ΠΊΡΠΈΠ²Π° User-agent: * ΠΎΠ±ΠΎΠ·Π½Π°ΡΠ°Π΅Ρ, ΡΡΠΎ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π½ΠΈΠΆΠ΅ ΠΏΡΠ΅Π΄Π½Π°Π·Π½Π°ΡΠ΅Π½Ρ Π΄Π»Ρ Π²ΡΠ΅Ρ ΡΠΎΠ±ΠΎΡΠΎΠ², Π΄Π»Ρ ΠΊΠΎΡΠΎΡΡΡ Π½Π΅Ρ ΠΏΠ΅ΡΡΠΎΠ½Π°Π»ΡΠ½ΡΡ ΠΊΠΎΠΌΠ°Π½Π΄ Π² ΡΠ°ΠΉΠ»Π΅.
ΠΠ°ΠΆΠ½ΠΎ ΡΠΎΠ±Π»ΡΠ΄Π°ΡΡ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΠ΅Π»ΡΠ½ΠΎΡΡΡ ΠΊΠΎΠΌΠ°Π½Π΄ Π² ΡΠ°ΠΉΠ»Π΅. Π Π½Π°ΡΠ°Π»Π΅ ΠΏΡΠΎΠΏΠΈΡΡΠ²Π°ΡΡΡΡ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π΄Π»Ρ ΠΊΠΎΠ½ΠΊΡΠ΅ΡΠ½ΡΡ ΡΠΎΠ±ΠΎΡΠΎΠ² (Yandex, Googlebot ΠΈ Ρ.Π΄.), ΠΏΠΎΡΠΎΠΌ β Π΄Π»Ρ Π²ΡΠ΅Ρ ΠΎΡΡΠ°Π»ΡΠ½ΡΡ .
ΠΠΈΡΠ΅ΠΊΡΠΈΠ²Π° | ΠΠ°Π·Π½Π°ΡΠ΅Π½ΠΈΠ΅ |
User-agent: | Π£ΠΊΠ°Π·ΡΠ²Π°Π΅Ρ ΡΠΎΠ±ΠΎΡΠ° ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΎΠΉ ΡΠΈΡΡΠ΅ΠΌΡ, Π΄Π»Ρ ΠΊΠΎΡΠΎΡΠΎΠ³ΠΎ ΠΏΡΠ΅Π΄Π½Π°Π·Π½Π°ΡΠ΅Π½Ρ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π½ΠΈΠΆΠ΅. ΠΠ°Π·Π²Π°Π½ΠΈΡ ΡΠΎΠ±ΠΎΡΠΎΠ² ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎΡΠΌΠΎΡΡΠ΅ΡΡ Π² ΡΠΏΡΠ°Π²ΠΎΡΠ½ΠΎΠΉ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΠΈ, ΠΊΠΎΡΠΎΡΡΡ ΠΏΡΠ΅Π΄ΠΎΡΡΠ°Π²Π»ΡΡΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ. |
Disallow: | ΠΠ°Π½Π½Π°Ρ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Π° Π² ΡΠ°ΠΉΠ»Π΅ robots.txt Π·Π°ΠΊΡΡΠ²Π°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠΉ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈΠ»ΠΈ ΡΠ°Π·Π΄Π΅Π»Π° Π½Π° ΡΠ°ΠΉΡΠ΅. Π‘Π°ΠΌΠ° ΡΡΡΠ°Π½ΠΈΡΠ° ΠΈΠ»ΠΈ ΡΠ°Π·Π΄Π΅Π» ΡΠΊΠ°Π·ΡΠ²Π°ΡΡΡΡ ΠΎΡ ΠΊΠΎΡΠ½Π΅Π²ΠΎΠΉ ΠΏΠ°ΠΏΠΊΠΈ ΡΠ°ΠΉΡΠ°, Π±Π΅Π· Π΄ΠΎΠΌΠ΅Π½Π° (ΡΠΌ. ΡΠΊΡΠΈΠ½ΡΠΎΡ Π² Π½Π°ΡΠ°Π»Π΅ ΡΡΠ°ΡΡΠΈ). |
Allow: | Π Π°Π·ΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠΉ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈΠ»ΠΈ ΡΠ°Π·Π΄Π΅Π»Π° Π½Π° ΡΠ°ΠΉΡΠ΅. ΠΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ Allow Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ ΡΠ°ΡΠΏΠΎΠ»Π°Π³Π°ΡΡ Π½ΠΈΠΆΠ΅ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ² Disallow. |
Host: | Π£ΠΊΠ°Π·ΡΠ²Π°Π΅Ρ Π³Π»Π°Π²Π½ΠΎΠ΅ Π·Π΅ΡΠΊΠ°Π»ΠΎ ΡΠ°ΠΉΡΠ° (Π»ΠΈΠ±ΠΎ Ρ www, Π»ΠΈΠ±ΠΎ Π±Π΅Π· www). Π£ΡΠΈΡΡΠ²Π°Π΅ΡΡΡ ΡΠΎΠ»ΡΠΊΠΎ Π―Π½Π΄Π΅ΠΊΡΠΎΠΌ. |
Sitemap: | Π Π΄Π°Π½Π½ΠΎΠΉ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Π΅ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ ΠΏΡΠΎΠΏΠΈΡΠ°ΡΡ ΠΏΡΡΡ ΠΊ ΠΊΠ°ΡΡΠ΅ ΡΠ°ΠΉΡΠ°, Π΅ΡΠ»ΠΈ ΠΎΠ½Π° ΠΈΠΌΠ΅Π΅ΡΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅. |
Π‘ΡΡΠ΅ΡΡΠ²ΡΡΡ Π΄ΡΡΠ³ΠΈΠ΅ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Ρ, ΠΊΠΎΡΠΎΡΡΠ΅ ΠΈΡΠΏΠΎΠ»ΡΠ·ΡΠ΅ΡΡΡ ΡΠ΅ΠΆΠ΅. ΠΠΎΡΠΌΠΎΡΡΠ΅ΡΡ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΡ ΠΎΠ±ΠΎ Π²ΡΠ΅Ρ Π΄ΠΈΡΠ΅ΠΊΡΠΈΠ²Π°Ρ , ΠΊΠΎΡΠΎΡΡΠ΅ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΡΡΡΠΎΠΈΡΡ Π² ΡΠ°ΠΉΠ»Π΅ robots.txt, ΠΌΠΎΠΆΠ½ΠΎ Π·Π΄Π΅ΡΡ.
Π§Π°ΡΡΠ½ΡΠ΅ ΡΠ»ΡΡΠ°ΠΈ ΠΊΠΎΠΌΠ°Π½Π΄ Π² ΡΠ°ΠΉΠ»Π΅ robots.txt
Π Π°Π·Π±Π΅ΡΠ΅ΠΌ Π½Π΅ΠΊΠΎΡΠΎΡΡΠ΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ, ΠΊΠΎΡΠΎΡΡΠ΅ ΠΏΠΎΡΡΠ΅Π±ΡΡΡΡΡ ΠΠ°ΠΌ Π² ΡΠ°Π±ΠΎΡΠ΅:
ΠΠΎΠΌΠ°Π½Π΄Π° | Π§ΡΠΎ ΠΎΠ±ΠΎΠ·Π½Π°ΡΠ°Π΅Ρ |
User-agent: Yandex | ΠΠ°ΡΠ°Π»ΠΎ Π±Π»ΠΎΠΊΠ° ΠΊΠΎΠΌΠ°Π½Π΄ Π΄Π»Ρ ΠΎΡΠ½ΠΎΠ²Π½ΠΎΠ³ΠΎ ΡΠΎΠ±ΠΎΡΠ° ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΎΠΉ ΡΠΈΡΡΠ΅ΠΌΡ Π―Π½Π΄Π΅ΠΊΡ. |
User-agent: Googlebot | ΠΠ°ΡΠ°Π»ΠΎ Π±Π»ΠΎΠΊΠ° ΠΊΠΎΠΌΠ°Π½Π΄ Π΄Π»Ρ ΠΎΡΠ½ΠΎΠ²Π½ΠΎΠ³ΠΎ ΡΠΎΠ±ΠΎΡΠ° ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΎΠΉ ΡΠΈΡΡΠ΅ΠΌΡ Google. |
User-agent: * Disallow: / | ΠΠ°Π½Π½Π°Ρ ΠΊΠΎΠΌΠ°Π½Π΄Π° Π² ΡΠ°ΠΉΠ»Π΅ robots.txt ΠΏΠΎΠ»Π½ΠΎΡΡΡΡ Π·Π°ΠΊΡΡΠ²Π°Π΅Ρ ΡΠ°ΠΉΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π²ΡΠ΅ΠΌΠΈ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠΌΠΈ ΡΠΈΡΡΠ΅ΠΌΠ°ΠΌΠΈ. |
User-agent: * Disallow: / Allow: /test.html | ΠΠ°Π½Π½ΡΠ΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π·Π°ΠΊΡΡΠ²Π°ΡΡ Π²ΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, ΠΊΡΠΎΠΌΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ /test.html |
Disallow: /*.doc | ΠΠ°Π½Π½Π°Ρ ΠΊΠΎΠΌΠ°Π½Π΄Π° Π·Π°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ ΡΠ°ΠΉΠ»Ρ MS Word Π½Π° ΡΠ°ΠΉΡΠ΅. ΠΡΠ»ΠΈ Π½Π° ΡΠ°ΠΉΡΠ΅ ΡΠΎΠ΄Π΅ΡΠΆΠΈΡΡΡ ΠΊΠΎΠ½ΡΠΈΠ΄Π΅Π½ΡΠΈΠ°Π»ΡΠ½Π°Ρ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΡ Π² ΡΠ°ΠΉΠ»Π°Ρ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠ³ΠΎ ΡΠΈΠΏΠ°, ΠΈΠΌΠ΅Π΅Ρ ΡΠΌΡΡΠ» Π·Π°ΠΊΡΡΡΡ ΡΠ°ΠΊΠΈΠ΅ ΡΠ°ΠΉΠ»Ρ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ. |
Disallow: /*.pdf | ΠΠ°Π½Π½Π°Ρ ΠΊΠΎΠΌΠ°Π½Π΄Π° Π² robots.txt Π·Π°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅ ΡΠ°ΠΉΠ»Ρ Π² ΡΠΎΡΠΌΠ°ΡΠ΅ PDF. ΠΡΠ»ΠΈ ΠΡ Π²ΡΠΊΠ»Π°Π΄ΡΠ²Π°Π΅ΡΠ΅ Π½Π° ΡΠ°ΠΉΡΠ΅ ΠΊΠ°ΠΊΠΈΠ΅-Π»ΠΈΠ±ΠΎ ΡΠ°ΠΉΠ»Ρ, Π΄ΠΎΡΡΡΠΏΠ½ΡΠ΅ Π΄Π»Ρ ΡΠΊΠ°ΡΠΈΠ²Π°Π½ΠΈΡ ΠΏΠΎΡΠ»Π΅ ΠΎΠΏΠ»Π°ΡΡ ΠΈΠ»ΠΈ ΠΏΠΎΡΠ»Π΅ Π°Π²ΡΠΎΡΠΈΠ·Π°ΡΠΈΠΈ, ΠΈΠΌΠ΅Π΅Ρ ΡΠΌΡΡΠ» Π·Π°ΠΊΡΡΡΡ ΠΈΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ. Π ΠΈΠ½ΠΎΠΌ ΡΠ»ΡΡΠ°Π΅ Π΄Π°Π½Π½ΡΠ΅ ΡΠ°ΠΉΠ»Ρ ΡΠΌΠΎΠ³ΡΡ Π½Π°ΠΉΡΠΈ Π² ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌΠ°Ρ . |
Disallow: /basket/ | ΠΠΎΠΌΠ°Π½Π΄Π° Π·Π°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ Π²ΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ Π² ΡΠ°Π·Π΄Π΅Π»Π΅ /basket/. |
Host: www.yandex.ru | ΠΠΎΠΌΠ°Π½Π΄Π° Π·Π°Π΄Π°Π΅Ρ Π΄Π»Ρ ΡΠ°ΠΉΡΠ° yandex.ru ΠΎΡΠ½ΠΎΠ²Π½ΡΠΌ Π·Π΅ΡΠΊΠ°Π»ΠΎΠΌ Π°Π΄ΡΠ΅Ρ ΡΠ°ΠΉΡΠ° Ρ www. Π‘ΠΎΠΎΡΠ²Π΅ΡΡΡΠ²Π΅Π½Π½ΠΎ, Π² ΠΏΠΎΠΈΡΠΊΠ΅ Ρ Π²ΡΡΠΎΠΊΠΎΠΉ Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΡΡ Π±ΡΠ΄ΡΡ Π²ΡΠ²ΠΎΠ΄ΠΈΡΡΡΡ Π°Π΄ΡΠ΅ΡΠ° ΡΡΡΠ°Π½ΠΈΡ Ρ www. |
Host: yandex.ru | ΠΠ°Π½Π½Π°Ρ ΠΊΠΎΠΌΠ°Π½Π΄Π° Π·Π°Π΄Π°Π΅Ρ Π΄Π»Ρ ΡΠ°ΠΉΡΠ° yandex.ru Π² ΠΊΠ°ΡΠ΅ΡΡΠ²Π΅ ΠΎΡΠ½ΠΎΠ²Π½ΠΎΠ³ΠΎ Π·Π΅ΡΠΊΠ°Π»Π° Π°Π΄ΡΠ΅Ρ yandex.ru (Π±Π΅Π· www). |
ΠΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΠ΅ ΡΠΏΠ΅ΡΡΠΈΠΌΠ²ΠΎΠ»ΠΎΠ² Π² ΠΊΠΎΠΌΠ°Π½Π΄Π°Ρ robots.txt
Π ΠΊΠΎΠΌΠ°Π½Π΄Π°Ρ robots.txt ΠΌΠΎΠΆΠ΅Ρ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡΡΡ Π΄Π²Π° ΡΠΏΠ΅ΡΡΠΈΠΌΠ²ΠΎΠ»Π°: * ΠΈ $:
- ΠΠ²Π΅Π·Π΄ΠΎΡΠΊΠ° * Π·Π°ΠΌΠ΅Π½ΡΠ΅Ρ ΡΠΎΠ±ΠΎΠΉ Π»ΡΠ±ΡΡ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΠ΅Π»ΡΠ½ΠΎΡΡΡ ΡΠΈΠΌΠ²ΠΎΠ»ΠΎΠ².
- ΠΠΎ ΡΠΌΠΎΠ»ΡΠ°Π½ΠΈΡ Π² ΠΊΠΎΠ½ΡΠ΅ ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΊΠΎΠΌΠ°Π½Π΄Ρ Π΄ΠΎΠ±Π°Π²Π»ΡΠ΅ΡΡΡ *. Π§ΡΠΎΠ±Ρ ΠΎΡΠΌΠ΅Π½ΠΈΡΡ ΡΡΠΎ, Π² ΠΊΠΎΠ½ΡΠ΅ ΡΡΡΠΎΠΊΠΈ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ ΠΏΠΎΡΡΠ°Π²ΠΈΡΡ ΡΠΈΠΌΠ²ΠΎΠ» $.
ΠΠΎΠΏΡΡΡΠΈΠΌ, Ρ Π½Π°Ρ ΠΈΠΌΠ΅Π΅ΡΡΡ ΡΠ°ΠΉΡ Ρ Π°Π΄ΡΠ΅ΡΠΎΠΌ site.com, ΠΈ ΠΌΡ Ρ ΠΎΡΠΈΠΌ Π½Π°ΡΡΡΠΎΠΈΡΡ ΡΠ°ΠΉΠ» robots.txt Π΄Π»Ρ Π½Π°ΡΠ΅Π³ΠΎ ΠΏΡΠΎΠ΅ΠΊΡΠ°. Π Π°Π·Π±Π΅ΡΠ΅ΠΌ Π΄Π΅ΠΉΡΡΠ²ΠΈΠ΅ ΡΠΏΠ΅ΡΡΠΈΠΌΠ²ΠΎΠ»ΠΎΠ² Π½Π° ΠΏΡΠΈΠΌΠ΅ΡΠ°Ρ :
ΠΠΎΠΌΠ°Π½Π΄Π° | Π§ΡΠΎ ΠΎΠ±ΠΎΠ·Π½Π°ΡΠ°Π΅Ρ |
Disallow: /basket/ | ΠΠ°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ Π²ΡΠ΅Ρ
Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ² Π² ΡΠ°Π·Π΄Π΅Π»Π΅ /basket/, Π½Π°ΠΏΡΠΈΠΌΠ΅Ρ: site.com/basket/ |
Disallow: /basket/$ | ΠΠ°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΡΠΎΠ»ΡΠΊΠΎ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠ°: site.com/basket/ ΠΠΎΠΊΡΠΌΠ΅Π½ΡΡ: ΠΎΡΡΠ°ΡΡΡΡ ΠΎΡΠΊΡΡΡΡΠΌΠΈ Π΄Π»Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ. |
ΠΡΠΈΠΌΠ΅Ρ Π½Π°ΡΡΡΠΎΠΉΠΊΠΈ ΡΠ°ΠΉΠ»Π° robots.txt
ΠΠ°Π²Π°ΠΉΡΠ΅ ΡΠ°Π·Π±Π΅ΡΠ΅ΠΌ Π½Π° ΠΏΡΠΈΠΌΠ΅ΡΠ΅, ΠΊΠ°ΠΊ Π½Π°ΡΡΡΠΎΠΈΡΡ ΡΠ°ΠΉΠ» robots.txt. ΠΠΈΠΆΠ΅ Π½Π°Ρ ΠΎΠ΄ΠΈΡΡΡ ΠΏΡΠΈΠΌΠ΅Ρ ΡΠ°ΠΉΠ»Π°, Π·Π½Π°ΡΠ΅Π½ΠΈΠ΅ ΠΊΠΎΠΌΠ°Π½Π΄ ΠΈΠ· ΠΊΠΎΡΠΎΡΠΎΠ³ΠΎ Π±ΡΠ΄Π΅Ρ ΠΏΠΎΠ΄ΡΠΎΠ±Π½ΠΎ ΡΠ°ΡΡΠΌΠΎΡΡΠ΅Π½ΠΎ Π² ΡΡΠ°ΡΡΠ΅.
Π Π΄Π°Π½Π½ΠΎΠΌ ΡΠ°ΠΉΠ»Π΅ ΠΌΡ Π²ΠΈΠ΄ΠΈΠΌ, ΡΡΠΎ ΠΎΡ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ Π―Π½Π΄Π΅ΠΊΡ ΠΈ Google Π·Π°ΠΊΡΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π²ΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅, ΠΊΡΠΎΠΌΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ /test.html
ΠΡΡΠ°Π»ΡΠ½ΡΠ΅ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ ΠΌΠΎΠ³ΡΡ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ Π²ΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ, ΠΊΡΠΎΠΌΠ΅:
- Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ² Π² ΡΠ°Π·Π΄Π΅Π»Π°Ρ /personal/ ΠΈ /help/
- Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠ° ΠΏΠΎ Π°Π΄ΡΠ΅ΡΡ /index.html
- Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ², Π°Π΄ΡΠ΅ΡΠ° ΠΊΠΎΡΠΎΡΡΡ Π²ΠΊΠ»ΡΡΠ°ΡΡ ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡ clear_cache=Y
ΠΠΎΡΠ»Π΅Π΄Π½ΠΈΠ΅ Π΄Π²Π΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ ΡΡΠ΅Π±ΡΡΡ ΠΎΡΠ΄Π΅Π»ΡΠ½ΠΎΠ³ΠΎ Π²Π½ΠΈΠΌΠ°Π½ΠΈΡ.
ΠΠΎΠΌΠ°Π½Π΄ΠΎΠΉ /index.html Π·Π°ΠΊΡΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π΄ΡΠ±Π»Ρ Π³Π»Π°Π²Π½ΠΎΠΉ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ°ΠΉΡΠ°. ΠΠ°ΠΊ ΠΏΡΠ°Π²ΠΈΠ»ΠΎ, Π³Π»Π°Π²Π½Π°Ρ ΡΡΡΠ°Π½ΠΈΡΠ° Π΄ΠΎΡΡΡΠΏΠ½Π° ΠΏΠΎ Π΄Π²ΡΠΌ Π°Π΄ΡΠ΅ΡΠ°ΠΌ:
- site.com
- site.com/index.html ΠΈΠ»ΠΈ site.com/index.php
ΠΡΠ»ΠΈ Π½Π΅ Π·Π°ΠΊΡΡΡΡ Π²ΡΠΎΡΠΎΠΉ Π°Π΄ΡΠ΅Ρ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, ΡΠΎ Π² ΠΏΠΎΠΈΡΠΊΠ΅ ΠΌΠΎΠΆΠ΅Ρ ΠΏΠΎΡΠ²ΠΈΡΡΡΡ Π΄Π²Π΅ Π³Π»Π°Π²Π½ΡΡ ΡΡΡΠ°Π½ΠΈΡΡ!
ΠΠΎΠΌΠ°Π½Π΄Π° Disallow: /*?clear_cache=Y Π·Π°ΠΊΡΡΠ²Π°Π΅Ρ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Π²ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ, Π² Π°Π΄ΡΠ΅ΡΠ°Ρ ΠΊΠΎΡΠΎΡΡΡ ΠΈΡΠΏΠΎΠ»ΡΠ·ΡΠ΅ΡΡΡ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΠ΅Π»ΡΠ½ΠΎΡΡΡ ΡΠΈΠΌΠ²ΠΎΠ»ΠΎΠ² ?clear_cache=Y. Π§Π°ΡΡΠΎ ΡΠ°Π·Π»ΠΈΡΠ½ΡΠΉ ΡΡΠ½ΠΊΡΠΈΠΎΠ½Π°Π» Π½Π° ΡΠ°ΠΉΡΠ΅, Π½Π°ΠΏΡΠΈΠΌΠ΅Ρ, ΡΠΎΡΡΠΈΡΠΎΠ²ΠΊΠΈ ΠΈΠ»ΠΈ ΡΠΎΡΠΌΡ ΠΏΠΎΠ΄Π±ΠΎΡΠ° Π΄ΠΎΠ±Π°Π²Π»ΡΡΡ ΠΊ Π°Π΄ΡΠ΅ΡΠ°ΠΌ ΡΡΡΠ°Π½ΠΈΡ ΡΠ°Π·Π»ΠΈΡΠ½ΡΠ΅ ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΡ, ΠΈΠ·-Π·Π° ΡΠ΅Π³ΠΎ Π³Π΅Π½Π΅ΡΠΈΡΡΠ΅ΡΡΡ ΠΌΠ½ΠΎΠΆΠ΅ΡΡΠ²ΠΎ ΡΡΡΠ°Π½ΠΈΡ-Π΄ΡΠ±Π»Π΅ΠΉ. ΠΠ°ΠΊΡΡΠ²Π°Ρ Π΄ΡΠ±Π»ΠΈ Ρ ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΠ°ΠΌΠΈ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, ΠΡ ΡΠ΅ΡΠ°Π΅ΡΠ΅ ΠΏΡΠΎΠ±Π»Π΅ΠΌΡ ΠΏΠΎΠΏΠ°Π΄Π°Π½ΠΈΡ Π΄ΡΠ±Π»Π΅ΠΉ Π² Π±Π°Π·Ρ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ.
ΠΠΎΡΠΌΠΎΡΡΠΈΡΠ΅, ΠΊΠ°ΠΊΠΈΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡΡΠ²Π°ΡΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, Π² ΡΡΠ°ΡΡΠ΅ ΠΏΡΠΎ ΠΏΡΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅ ΡΠ΅Ρ Π½ΠΈΡΠ΅ΡΠΊΠΎΠ³ΠΎ Π°ΡΠ΄ΠΈΡΠ° ΡΠ°ΠΉΡΠ°.
ΠΠ°ΠΊ ΠΏΡΠΎΠ²Π΅ΡΠΈΡΡ ΡΠ°ΠΉΠ» robots.txt?
ΠΠΎΡΠ»Π΅ Π΄ΠΎΠ±Π°Π²Π»Π΅Π½ΠΈΡ ΡΠ°ΠΉΠ»Π° robots.txt Π½Π° ΡΠ°ΠΉΡ ΠΡ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΠΏΡΠΎΠ²Π΅ΡΠΈΡΡ ΠΊΠΎΡΡΠ΅ΠΊΡΠ½ΠΎΡΡΡ Π΅Π³ΠΎ Π½Π°ΡΡΡΠΎΠΉΠΊΠΈ. ΠΠ»Ρ ΡΡΠΎΠ³ΠΎ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ ΠΏΡΠ΅Π΄Π»Π°Π³Π°ΡΡ ΡΠΏΠ΅ΡΠΈΠ°Π»ΡΠ½ΡΠ΅ ΠΈΠ½ΡΡΡΡΠΌΠ΅Π½ΡΡ. Π ΡΡΠ°ΡΡΠ΅ ΡΠ°ΡΡΠΌΠΎΡΡΠΈΠΌ ΠΈΠ½ΡΡΡΡΠΌΠ΅Π½Ρ ΠΎΡ Π―Π½Π΄Π΅ΠΊΡΠ°, ΠΊΠΎΡΠΎΡΡΠΉ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΠ΅Ρ ΠΏΡΠΎΠ²Π΅ΡΠΈΡΡ ΠΏΡΠ°Π²ΠΈΠ»ΡΠ½ΠΎΡΡΡ Π½Π°ΡΡΡΠΎΠΉΠΊΠΈ robots.txt. ΠΠ½ Π΄ΠΎΡΡΡΠΏΠ΅Π½ Π² ΡΠ΅ΡΠ²ΠΈΡΠ΅ Π―Π½Π΄Π΅ΠΊΡ.ΠΠ΅Π±ΠΌΠ°ΡΡΠ΅Ρ Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ΅ Β«ΠΠ½ΡΡΡΡΠΌΠ΅Π½ΡΡΒ» β Β«ΠΠ½Π°Π»ΠΈΠ· robots.txtΒ».
Π Π²Π΅ΡΡ Π½Π΅ΠΉ ΡΠ°ΡΡΠΈ ΡΡΡΠ°Π½ΠΈΡΡ ΠΡ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΡΠ²ΠΈΠ΄Π΅ΡΡ ΠΏΡΠΎΠ²Π΅ΡΡΠ΅ΠΌΡΠΉ ΡΠ°ΠΉΡ (Π½Π° ΡΠΊΡΠΈΠ½ΡΠΎΡΠ΅ Π·Π°ΡΠ΅ΡΡ), ΡΠΎΠ΄Π΅ΡΠΆΠ°Π½ΠΈΠ΅ ΡΠ°ΠΉΠ»Π° robots.txt, ΠΈΠ·Π²Π΅ΡΡΠ½ΠΎΠ΅ Π―Π½Π΄Π΅ΠΊΡΡ. ΠΠ±ΡΠ·Π°ΡΠ΅Π»ΡΠ½ΠΎ ΠΏΡΠΎΠ²Π΅ΡΡΡΠ΅, ΡΡΠΎ ΡΠΎΠ΄Π΅ΡΠΆΠ°Π½ΠΈΠ΅ ΡΠ°ΠΉΠ»Π° ΡΠΊΠ°Π·Π°Π½ΠΎ ΠΊΠΎΡΡΠ΅ΠΊΡΠ½ΠΎ. ΠΡΠ»ΠΈ Π² Π―Π½Π΄Π΅ΠΊΡ.ΠΠ΅Π±ΠΌΠ°ΡΡΠ΅Ρ Π²ΡΠ²ΠΎΠ΄ΡΡΡΡ ΡΡΠ°ΡΡΠ΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ, Π½Π°ΠΆΠΌΠΈΡΠ΅ Π½Π° ΠΊΠ½ΠΎΠΏΠΊΡ Β«ΠΠ°Π³ΡΡΠ·ΠΈΡΡΒ» (ΡΠ΅ΡΡΠΉ Π·Π½Π°ΡΠΎΠΊ ΡΠΏΡΠ°Π²Π° ΠΎΡ ΡΡΡΠ»ΠΊΠΈ Π½Π° ΠΏΡΠΎΠ²Π΅ΡΡΠ΅ΠΌΡΠΉ ΡΠ°ΠΉΡ, Π²ΡΠ΄Π΅Π»Π΅Π½ Π½Π° ΡΠΊΡΠΈΠ½ΡΠΎΡΠ΅ ΡΠ°ΠΌΠΊΠΎΠΉ):
Π Π½ΠΈΠΆΠ½Π΅ΠΉ ΡΠ°ΡΡΠΈ ΡΡΡΠ°Π½ΠΈΡΡ Π΄ΠΎΠ±Π°Π²ΡΡΠ΅ Π² ΠΏΠΎΠ»Π΅ Β«Π Π°Π·ΡΠ΅ΡΠ΅Π½Ρ Π»ΠΈ URL?Β» ΡΠΏΠΈΡΠΎΠΊ ΡΡΡΠ°Π½ΠΈΡ, ΠΏΠΎ ΠΊΠΎΡΠΎΡΡΠΌ ΠΡ Ρ ΠΎΡΠΈΡΠ΅ ΠΏΡΠΎΠ²Π΅ΡΠΈΡΡ, ΡΠ°Π·ΡΠ΅ΡΠ΅Π½Π° ΠΈΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΠΈΠ»ΠΈ Π½Π΅Ρ. ΠΠ°ΠΆΠΌΠΈΡΠ΅ ΠΊΠ½ΠΎΠΏΠΊΡ Β«ΠΡΠΎΠ²Π΅ΡΠΈΡΡΒ», ΠΈ Π½ΠΈΠΆΠ΅ Π²ΡΠ²Π΅Π΄ΡΡΡΡ ΡΠ΅Π·ΡΠ»ΡΡΠ°ΡΡ. ΠΡΠ°ΡΠ½ΡΠΉ Π·Π½Π°ΡΠΎΠΊ ΠΎΠ·Π½Π°ΡΠ°Π΅Ρ, ΡΡΠΎ ΡΡΡΠ°Π½ΠΈΡΠ° Π·Π°ΠΏΡΠ΅ΡΠ΅Π½Π° ΠΊ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ, Π·Π΅Π»Π΅Π½ΡΠΉ β ΡΠ°Π·ΡΠ΅ΡΠ΅Π½Π°:
ΠΠ½Π°Π»ΠΎΠ³ΠΈΡΠ½ΡΠ΅ ΠΈΠ½ΡΡΡΡΠΌΠ΅Π½ΡΡ ΠΏΡΠΎΠ²Π΅ΡΠΊΠΈ ΡΠ°ΠΉΠ»Π° ΠΈΠΌΠ΅ΡΡΡΡ Π² Π¦Π΅Π½ΡΡΠ΅ Π²Π΅Π±ΠΌΠ°ΡΡΠ΅ΡΠΎΠ² Google.
ΠΡΠ΅ΠΌΡ ΠΎΡ Π²ΡΠ΅ΠΌΠ΅Π½ΠΈ Π² ΡΡΡΡΠΊΡΡΡΡ ΡΠ°ΠΉΡΠ° Π²Π½ΠΎΡΡΡΡΡ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΡ. ΠΠΎΡΡΠΎΠΌΡ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ ΠΏΠ΅ΡΠΈΠΎΠ΄ΠΈΡΠ΅ΡΠΊΠΈ ΠΏΡΠΎΠ²Π΅ΡΡΡΡ, ΠΊΠ°ΠΊΠΈΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΠΈ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΡ Π½Π°Ρ ΠΎΠ΄ΡΡΡΡ Π² ΠΈΠ½Π΄Π΅ΠΊΡΠ΅ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΡ ΡΠΈΡΡΠ΅ΠΌ. ΠΡΠΈ ΠΏΠΎΡΠ²Π»Π΅Π½ΠΈΠΈ Π² ΠΈΠ½Π΄Π΅ΠΊΡΠ΅ Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ², ΠΊΠΎΡΠΎΡΡΠ΅ Π½Π΅ Π΄ΠΎΠ»ΠΆΠ½Ρ ΡΠ°ΠΌ Π±ΡΡΡ, ΠΈΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ Π½Π΅ΠΎΠ±Ρ ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡΡΡΡ Π² ΡΠ°ΠΉΠ»Π΅ robots.txt.
Π Π΅ΠΊΠΎΠΌΠ΅Π½Π΄ΡΠ΅ΠΌ

ΠΠ΄ΠΈΠ½ ΠΈΠ· ΡΠ°ΠΌΡΡ Π²Π°ΠΆΠ½ΡΡ Π²ΠΎΠΏΡΠΎΡΠΎΠ² Π² ΠΏΡΠΎΠ΄Π²ΠΈΠΆΠ΅Π½ΠΈΠΈ ΡΠ°ΠΉΡΠ° β ΠΊΠ°ΠΊΠΈΠ΅ ΡΠ΅ΠΊΡΡΡ ΡΡΡΠ»ΠΎΠΊ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡ? ΠΠ° ΡΡΠΎΡ ΡΡΠ΅Ρ ΡΡΡΠ΅ΡΡΠ²ΡΠ΅Ρ ΠΌΠ½ΠΎΠΆΠ΅ΡΡΠ²ΠΎ ΠΌΠ½Π΅Π½ΠΈΠΉ, Ρ ΠΈΠ·Π»ΠΎΠΆΡ ΡΠΎΠ»ΡΠΊΠΎ β¦

Π Π΄Π°Π½Π½ΠΎΠΉ ΡΡΠ°ΡΡΠ΅ ΡΠ°ΡΡΠΌΠΎΡΡΠΈΠΌ, ΠΊΠ°ΠΊ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠ΅ ΡΠΈΡΡΠ΅ΠΌΡ ΡΡΠΈΡΡΠ²Π°ΡΡ Π²Π½Π΅ΡΠ½ΠΈΠ΅ ΡΡΡΠ»ΠΊΠΈ, ΠΊΠ°ΠΊΠΈΠ΅ ΡΡΡΠ»ΠΊΠΈ ΠΏΡΠΈΠ½ΠΎΡΡΡ ΠΏΠΎΠ»ΡΠ·Ρ ΡΠ°ΠΉΡΡ ΠΈ ΠΊΠ°ΠΊ ΠΏΡΠ°Π²ΠΈΠ»ΡΠ½ΠΎ ΡΠ°Π·Π²ΠΈΠ²Π°ΡΡ ΡΡΡΠ»ΠΎΡΠ½ΡΠΉ β¦
ΠΠ°ΠΊ Π·Π°ΠΊΡΡΡΡ ΡΠ°ΠΉΡ ΠΎΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ Ρ noindex/robots.txt?
ΠΠΎΠ³Π΄Π° Π²Ρ Π·Π°Π½ΠΈΠΌΠ°Π΅ΡΠ΅ΡΡ SEO Π΄Π»Ρ ΡΠ°ΠΉΡ, ΡΠΎ ΡΠ°ΡΡΠΎ Π½ΡΠΆΠ½ΠΎ ΡΠΊΡΡΡΡ ΠΊΠ°ΠΊΡΡ-Π»ΠΈΠ±ΠΎ ΡΠ°ΡΡΡ ΡΠ°ΠΉΡΠ° ΠΈΠ»ΠΈ ΠΆΠ΅ ΡΠ΅Π»ΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ΅Π»ΠΈΠΊΠΎΠΌ. Π ΡΡΠΎΠΉ Π·Π°ΠΏΠΈΡΠΈ Ρ ΡΠ°ΡΡΠΊΠ°ΠΆΡ ΠΎ ΡΠΎΠΌ ΠΊΠ°ΠΊ ΡΡΠΎ ΠΌΠΎΠΆΠ½ΠΎ ΡΠ΄Π΅Π»Π°ΡΡ.ΠΡΠ»ΠΈ Π²Π°ΠΌ Π½ΡΠΆΠ½ΠΎ Π·Π°ΠΊΡΡΡΡ ΠΊΠ°ΠΊΡΡ-Π»ΠΈΠ±ΠΎ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΡΡ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ°ΠΉΡΠ°, ΡΠΎ ΠΌΠΎΠΆΠ½ΠΎ Π²ΠΎΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡΡΡ meta ΡΡΠ³ΠΎΠΌ, ΠΊΠΎΡΠΎΡΡΠΉ Π·Π°ΠΏΡΠ΅ΡΠΈΡΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΡΠ΅Π»ΠΎΠΉ ΡΡΡΠ°Π½ΠΈΡΡ.
Π§ΡΠΎΠ±Ρ Π·Π°ΠΏΡΠ΅ΡΠΈΡΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΡ ΡΡΡΠ°Π½ΠΈΡΡ Π΄Π»Ρ Π²ΡΠ΅Ρ Π±ΠΎΡΠΎΠ², ΡΠΎ Π²Ρ ΠΌΠΎΠΆΠ΅ΡΠ΅ Π²ΠΎΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡΡΡ HTML ΠΊΠΎΠ΄ΠΎΠΌ Π½ΠΈΠΆΠ΅.
<meta name="robots" content="noindex">
ΠΡΠ»ΠΈ Π²Ρ Π½Π°ΡΠ΅Π»Π΅Π½Ρ Π½Π° ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΡΠΉ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΈΠΊ (Π½Π°ΠΏΡΠΈΠΌΠ΅Ρ: Google), ΡΠΎ Π²Ρ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΡΡΠΎ ΡΠ΄Π΅Π»Π°ΡΡ ΠΊΠ°ΠΊ ΠΏΠΎΠΊΠ°Π·Π°Π½ΠΎ Π½ΠΈΠΆΠ΅.
<meta name="googlebot" content="noindex">
ΠΡΠΈΡΠΈΠ°Π»ΡΠ½ΠΎΠ³ΠΎ ΠΈΡΡΠΎΡΠ½ΠΈΠΊΠ° ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡΠΈ ΠΏΠΎ ΡΡΠΎΠΉ ΡΡΡΠ»ΠΊΠ΅.
ΠΡΠ»ΠΈ Π²Π°ΠΌ Π½ΡΠΆΠ½ΠΎ ΡΠΏΡΡΡΠ°ΡΡ ΠΈΠ· ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΡΡ ΡΠ°ΡΡΡ ΡΡΡΠ°Π½ΠΈΡΡ Π²Π°ΡΠ΅Π³ΠΎ ΡΠ°ΠΉΡΠ°, ΡΠΎ Π²Ρ ΠΌΠΎΠΆΠ΅ΡΠ΅ Π²ΠΎΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡΡΡ <noindex>
ΡΡΠ³ΠΎΠΌ.. ΠΠ°ΠΊ Π² ΠΏΡΠΈΠΌΠ΅ΡΠ΅ Π½ΠΈΠΆΠ΅.
<noindex> <p>ΠΠΎΡΡ Π½Π΅ Π±ΡΠ΄ΡΡ ΡΡΠΎΠ³ΠΎ ΡΡΠΈΡΡΠ²Π°ΡΡ</p> </noindex>
ΠΡΠ΅ ΡΡΠΎ ΡΠΊΠ°Π·Π°Π½ΠΎ Π²Π½ΡΡΡΠΈ noindex ΠΎΡΡΠ°Π΅ΡΡΡ Π²Π½Π΅ Π²ΠΈΠ΄ΠΈΠΌΠΎΡΡΠΈ Π±ΠΎΡΠ°. Π ΡΠ΅Π»ΠΎΠΌ, ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΡ Π²Π½ΡΡΡΠΈ Π²ΡΠ΅ ΡΠ°Π²Π½ΠΎ ΡΠΈΡΠ°Π΅ΡΡΡ ΠΈΠΌ, Π½ΠΎ ΠΎΡΡΠ°Π΅ΡΡΡ ΠΏΡΠΎΠΈΠ³Π½ΠΎΡΠΈΡΠΎΠ²Π°Π½Π° ΠΏΡΠΈ ΠΏΠΎΠΈΡΠΊΠ΅ ΠΊΠ°ΠΊΠΎΠΉ-Π»ΠΈΠ±ΠΎ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΠΈ ΡΠ΅ΡΠ΅Π· ΠΏΠΎΠΈΡΠΊΠΎΠ²ΠΈΠΊ.
robots.txt
ΡΠ²Π»ΡΠ΅ΡΡΡ ΡΠ°ΠΌΡΠΌ ΡΠ°ΡΠΏΡΠΎΡΡΡΠ°Π½Π΅Π½Π½ΡΠΌ Π²ΠΈΠ΄ΠΎΠΌ ΡΡΡΠ°Π½ΠΎΠ²ΠΊΠΈ ΠΎΠ³ΡΠ°Π½ΠΈΡΠ΅Π½ΠΈΡ Π΄Π»Ρ ΠΏΡΠΎΡΠΌΠΎΡΡΠ° ΠΊΠΎΠ½ΡΠ΅Π½ΡΠ° Π±ΠΎΡΠ°ΠΌΠΈ. ΠΡΡΠ³ΠΈΠΌΠΈ ΡΠ»ΠΎΠ²Π°ΠΌΠΈ, Π΄Π°Π½Π½ΡΠΉ ΡΠ°ΠΉΠ» ΡΡΡΠ°Π½Π°Π²Π»ΠΈΠ²Π°Π΅Ρ ΠΈΠ½ΡΡΡΡΠΊΡΠΈΠΈ Π΄Π»Ρ Π±ΠΎΡΠΎΠ² (ΡΡΠΎ ΠΌΠΎΠΆΠ½ΠΎ ΡΠΌΠΎΡΡΠ΅ΡΡ, Π° ΡΡΠΎ Π½Π΅Ρ).
ΠΠ΄Π΅Π°Π»ΡΠ½ΠΎΠ³ΠΎ Π²Π°ΡΠΈΠ°Π½ΡΠ° ΡΡΠΎΠ³ΠΎ ΡΠ°ΠΉΠ»Π° Π½Π΅ ΡΡΡΠ΅ΡΡΠ²ΡΠ΅Ρ. ΠΠ»Ρ ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΏΡΠΎΠ΅ΠΊΡΠ° Π΄ΠΎΠ»ΠΆΠ΅Π½ ΠΈΠΌΠ΅ΡΡΡΡ ΡΠ²ΠΎΠΉ ΡΠΎΠ±ΡΡΠ²Π΅Π½Π½ΡΠΉ robots.txt
ΡΠ°ΠΉΠ», ΠΊΠΎΡΠΎΡΡΠΉ ΠΏΡΠ°Π²ΠΈΠ»ΡΠ½ΠΎ Π½Π°ΡΡΡΠΎΠ΅Π½ ΠΈ ΡΠΊΡΡΠ²Π°Π΅Ρ Π½Π΅ΠΆΠ΅Π»Π°ΡΠ΅Π»ΡΠ½ΡΠ΅ ΠΏΠ°ΠΏΠΊΠΈ/ΡΠ°Π·Π΄Π΅Π»Ρ ΡΠ°ΠΉΡΠ°.
ΠΠΌΠ΅ΠΉΡΠ΅ Π²Π²ΠΈΠ΄Ρ, ΡΡΠΎ Π½Π΅ Π²ΡΠ΅ Π±ΠΎΡΡ Π±ΡΠ΄ΡΡ ΡΠ»Π΅Π΄ΠΎΠ²Π°ΡΡ ΡΡΠΎΠΌΡ ΡΠ°ΠΉΠ»Ρ. ΠΡΡΡ ΠΌΠ½ΠΎΠΆΠ΅ΡΡΠ²ΠΎ Π΄ΡΡΠ³ΠΈΡ ΠΏΠ»ΠΎΡ ΠΈΡ ΠΈ Ρ ΠΎΡΠΎΡΠΈΡ Π±ΠΎΡΠΎΠ², ΠΊΠΎΡΠΎΡΡΠ΅ ΠΏΡΠΎΡΡΠΎ ΠΏΡΡΠ΅ΡΠ΅ΡΡΠ²ΡΡΡ ΠΏΠΎ Π²Π΅Π±Ρ, ΡΠΎΠ±ΠΈΡΠ°ΡΡ ΠΈΠ½ΡΠΎΡΠΌΠ°ΡΠΈΡ ΠΈ ΡΠ΄.
Π§ΡΠΎ Ρ ΡΠΎΡΠ½ΠΎ Π²Π°ΠΌ ΠΌΠΎΠ³Ρ ΡΠΊΠ°Π·Π°ΡΡ: robots.txt
Π½Π΅ Π±ΡΠ΄Π΅Ρ ΠΏΡΠΎΠΈΠ³Π½ΠΎΡΠΈΡΠΎΠ²Π°Π½ ΠΈΠ·Π²Π΅ΡΡΠ½ΡΠΌΠΈ ΠΏΠΎΠΈΡΠΊΠΎΠ²ΡΠΌΠΈ ΡΠΈΡΡΠ΅ΠΌΠ°ΠΌΠΈ.
ΠΠ΅ΠΊΠΎΡΠΎΡΡΠ΅ ΠΈΠ· ΠΏΡΠΈΠΌΠ΅ΡΠΎΠ² Ρ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π» Ρ ΡΡΠΎΠ³ΠΎ ΠΈΡΡΠΎΡΠ½ΠΈΠΊΠ°. ΠΡΠ»ΠΈ ΠΊΠΎΠΌΡ ΠΈΠ½ΡΠ΅ΡΠ΅ΡΠ½ΠΎ, Π·Π°ΠΉΠ΄ΠΈΡΠ΅ ΠΈ ΠΏΠΎΡΠΌΠΎΡΡΠΈΡΠ΅ (Π΄ΠΎΡΡΠ°ΡΠΎΡΠ½ΠΎ Π½Π΅ ΠΏΠ»ΠΎΡ ΠΎΠΉ ΡΠ΅ΡΡΡΡ).
ΠΡΠΈΠΌΠ΅Ρ 1
ΠΠ°Π½Π½ΡΠΉ ΠΏΡΠΈΠΌΠ΅Ρ ΠΈΠΌΠ΅Π΅Ρ Π΄Π²Π° ΡΠ²ΠΎΠΉΡΡΠ²Π°.
User-agent
β ΠΊΠΎΡΠΎΡΠΎΠ΅ Π³ΠΎΠ²ΠΎΡΠΈΡ ΡΠΎΠ±ΠΎΡΡ, ΡΡΠΎ Π»ΡΠ±ΠΎΠΉ ΡΠΈΠΏ ΠΌΠΎΠΆΠ΅Ρ ΠΏΠΎΡΠ΅ΡΠΈΡΡ ΡΡΡΠ°Π½ΠΈΡΡDisallow
β Π·Π°ΠΏΡΠ΅ΡΠ°Π΅Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡΠΎΠ²Π°ΡΡ ΠΊΠ°ΠΊΠΈΠ΅-Π»ΠΈΠ±ΠΎ ΡΡΡΠ°Π½ΠΈΡΡ Π½Π° ΡΠ°ΠΉΡΠ΅, ΠΊΠΎΡΠΎΡΡΠΉ ΡΡΡΠ°Π½ΠΎΠ²ΠΈΡ ΡΡΠΎΡrobots.txt
User-agent: * Disallow: /
Π Π²ΠΎΡ ΡΡΠΎΡ ΠΏΡΠΈΠΌΠ΅Ρ (Π½ΠΈΠΆΠ΅), ΡΠ°Π·ΡΠ΅ΡΠΈΡΡ ΠΏΠΎΡΠ΅ΡΠ°ΡΡ Π»ΡΠ±ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ°ΠΉΡΠ°.
User-agent: * Disallow:
ΠΡΠΈΠΌΠ΅Ρ 2
ΠΡΠΈΠΌΠ΅Ρ Π½ΠΈΠΆΠ΅ Π·Π°ΠΏΡΠ΅ΡΠ°Π΅Ρ Π±ΠΎΡΠ°ΠΌ ΠΏΠΎΡΠ΅ΡΠ°ΡΡ ΠΏΠ°ΠΏΠΊΡ cgi-bin
ΠΈ tmp
Π² ΠΊΠΎΡΠ½Π΅ ΡΠ°ΠΉΡΠ°. ΠΡ ΠΌΠΎΠΆΠ΅ΡΠ΅ ΠΏΡΠΎΠΏΠΈΡΡΠ²Π°ΡΡ ΡΠΊΠΎΠ»ΡΠΊΠΎ Π·Π°Ρ
ΠΎΡΠΈΡΠ΅ Disallow
, ΡΡΠΎΠ±Ρ ΠΏΠΎΠ»Π½ΠΎΡΡΡΡ ΡΠ°ΡΠΏΠΈΡΠ°ΡΡ ΠΈΠ½ΡΡΡΡΠΊΡΠΈΠΈ Π΄Π»Ρ Π±ΠΎΡΠ°.
User-agent: * Disallow: /cgi-bin/ Disallow: /tmp/
ΠΡΠΈΠΌΠ΅Ρ 3
ΠΠ°Π½Π½ΡΠΉ ΠΏΡΠΈΠΌΠ΅Ρ ΠΈΡΠΏΠΎΠ»ΡΠ·ΡΠ΅Ρ Π΄Π²Π° ΡΠ°Π·Π½ΡΡ ΠΏΡΠ°Π²ΠΈΠ»Π°.
ΠΠ΅ΡΠ²ΠΎΠ΅ β ΡΡΠΎ ΡΡΡΠ°Π½Π°Π²Π»ΠΈΠ²Π°Π΅Ρ ΠΏΡΠ°Π²ΠΈΠ»Π° ΡΠΎΠ»ΡΠΊΠΎ Π΄Π»Ρ User-agent: Google
Π±ΠΎΡΠ°. Π ΡΠ°Π·ΡΠ΅ΡΠ°Π΅Ρ Π΅ΠΌΡ Π°Π½Π°Π»ΠΈΠ·ΠΈΡΠΎΠ²Π°ΡΡ Π»ΡΠ±ΡΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ°ΠΉΡΠ°.
ΠΡΠΎΡΠΎΠ΅ β ΡΡΠΎ Π²ΡΠ΅ ΠΎΡΡΠ°Π»ΡΠ½ΡΠ΅ Π±ΠΎΡΡ User-agent: *
, ΠΊΠΎΡΠΎΡΡΠ΅ Π½Π΅ ΠΌΠΎΠ³ΡΡ ΡΠΌΠΎΡΡΠ΅ΡΡ Π½ΠΈΠΊΠ°ΠΊΠΈΠ΅ ΡΡΡΠ°Π½ΠΈΡΡ ΡΠ°ΠΉΡΠ°.
User-agent: Google Disallow: User-agent: * Disallow: /
Π§ΡΠΎΠ±Ρ Π·Π°ΠΏΡΠ΅ΡΠΈΡΡ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ Π΄Π»Ρ ΠΎΠΏΡΠ΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠ³ΠΎ ΡΠ°ΠΉΠ»Π°, ΠΌΠΎΠΆΠ½ΠΎ ΠΏΡΠΎΡΡΠΎ ΠΏΡΠΎΠΏΠΈΡΠ°ΡΡ ΠΏΠΎΠ»Π½ΡΠΉ ΠΏΡΡΡ Π΄ΠΎ ΡΠ°ΠΉΠ»Π°, ΠΎΡ ΠΊΠΎΡΠ½Ρ ΡΠ°ΠΉΡΠ°. ΠΠ°ΠΏΡΠΈΠΌΠ΅Ρ, Ρ Π²Π°Ρ Π΅ΡΡΡ ΡΠ°ΠΉΠ» main.hml, ΠΊΠΎΡΠΎΡΡΠΉ Π½Π°Ρ ΠΎΠ΄ΠΈΡΡΡ Π² /src/ ΠΏΠ°ΠΏΠΊΡ, ΡΠΎ Π²Π°Ρ robots Π±ΡΠ΄Π΅Ρ Π²ΡΠ³Π»ΡΠ΄Π΅ΡΡ ΠΊΠ°ΠΊ Π½Π° ΠΏΡΠΈΠΌΠ΅ΡΠ΅ Π½ΠΈΠΆΠ΅:
User-agent: * Disallow: /src/main.html