Robots Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт – Π€Π°ΠΉΠ» robots.txt ΠΈ ΠΌΠ΅Ρ‚Π°-Ρ‚Π΅Π³ robots β€” настройка индСксации сайта ЯндСксом ΠΈ Π“ΡƒΠ³Π»ΠΎΠΌ, ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Ρ‹ΠΉ роботс ΠΈ Π΅Π³ΠΎ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ°

Π‘ΠΎΠ΄Π΅Ρ€ΠΆΠ°Π½ΠΈΠ΅

Π—Π°ΠΊΡ€Ρ‹Π²Π°Π΅ΠΌ бСсполСзныС страницы ΠΎΡ‚ индСксации Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²ΠΎΠΉ Π² robots.txt

ΠžΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½ΠΎ: 07.11.2014. ОбновлСно: 19.08.2019 2 431 2

Π­Ρ‚Π° ΡΡ‚Π°Ρ‚ΡŒΡ ΠΎΠ± использовании Ρ„Π°ΠΉΠ»Π° robots.txt Π½Π° ΠΏΡ€Π°ΠΊΡ‚ΠΈΠΊΠ΅ ΠΏΡ€ΠΈΠΌΠ΅Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΊ ΡƒΠ΄Π°Π»Π΅Π½ΠΈΡŽ Π½Π΅Π½ΡƒΠΆΠ½Ρ‹Ρ… страниц ΠΈΠ· индСкса поисковых систСм. КакиС страницы ΡƒΠ΄Π°Π»ΡΡ‚ΡŒ, ΠΊΠ°ΠΊ ΠΈΡ… ΠΈΡΠΊΠ°Ρ‚ΡŒ, ΠΊΠ°ΠΊ ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ, Ρ‡Ρ‚ΠΎ Π½Π΅ Π·Π°Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Π½ ΠΏΠΎΠ»Π΅Π·Π½Ρ‹ΠΉ ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚. По сути ΡΡ‚Π°Ρ‚ΡŒΡ β€” ΠΎΠ± использовании ΠΎΠ΄Π½ΠΎΠΉ лишь Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ β€” Disallow. ВсСсторонняя инструкция ΠΏΠΎ использованию Ρ„Π°ΠΉΠ»Π° роботс ΠΈ Π΄Ρ€ΡƒΠ³ΠΈΡ… Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ² Π² ΠŸΠΎΠΌΠΎΡ‰ΠΈ ЯндСкса.

Π’ Π±ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²Π΅ случаСв Π·Π°ΠΊΡ€Ρ‹Π²Π°Π΅ΠΌ Π½Π΅Π½ΡƒΠΆΠ½Ρ‹Π΅ страницы для всСх поисковых Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ², Ρ‚ΠΎ Π΅ΡΡ‚ΡŒ ΠΏΡ€Π°Π²ΠΈΠ»Π° Disallow ΡƒΠΊΠ°Π·Ρ‹Π²Π°Π΅ΠΌ для User-agent: *.

User-agent: *
Disallow: /cgi-bin

Π§Ρ‚ΠΎ Π½ΡƒΠΆΠ½ΠΎ Π·Π°ΠΊΡ€Ρ‹Π²Π°Ρ‚ΡŒ ΠΎΡ‚ индСксации?

ΠŸΡ€ΠΈ ΠΏΠΎΠΌΠΎΡ‰ΠΈ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ Disallow Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt Π½ΡƒΠΆΠ½ΠΎ Π·Π°ΠΊΡ€Ρ‹Π²Π°Ρ‚ΡŒ ΠΎΡ‚ индСксации поисковыми Π±ΠΎΡ‚Π°ΠΌΠΈ:

Как ΠΈΡΠΊΠ°Ρ‚ΡŒ страницы, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации?

ComparseR

ΠŸΡ€ΠΎΡΠΊΠ°Π½ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ сайт ΠšΠΎΠΌΠΏΠ°Ρ€ΡΠ΅Ρ€ΠΎΠΌ ΠΈ справа Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ΅ Β«Π‘Ρ‚Ρ€ΡƒΠΊΡ‚ΡƒΡ€Π°Β» ΠΏΠΎΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Π΄Π΅Ρ€Π΅Π²ΠΎ сайта:

Π΄Π΅Ρ€Π΅Π²ΠΎ сайта ComparserΠ΄Π΅Ρ€Π΅Π²ΠΎ сайта Comparser

ΠŸΡ€ΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ всС Π²Π»ΠΎΠΆΠ΅Π½Π½Ρ‹Π΅ Β«Π²Π΅Ρ‚Π²ΠΈΒ» Π΄Π΅Ρ€Π΅Π²Π°.

ΠŸΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ°Ρ… «ЯндСкс» ΠΈ Β«GoogleΒ» страницы Π² индСксС поисковых систСм. Π—Π°Ρ‚Π΅ΠΌ Π² статистикС сканирования ΠΏΡ€ΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ адрСса страниц Π² «НайдСно Π² ЯндСкс, Π½Π΅ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠ΅Π½ΠΎ Π½Π° сайтС» ΠΈ «НайдСно Π² Google Π½Π΅ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠ΅Π½ΠΎ Π½Π° сайтС».

ЯндСкс.ВСбмастСр

Π’ Ρ€Π°Π·Π΄Π΅Π»Π΅ Β«Π˜Π½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅Β» β€” Β«Π‘Ρ‚Ρ€ΡƒΠΊΡ‚ΡƒΡ€Π° сайта» ΠΏΡ€ΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ всС Β«Π²Π΅Ρ‚Π²ΠΈΒ» структуры.

ЯндСкс.ВСбмастСр - структура сайтаЯндСкс.ВСбмастСр - структура сайта

ΠŸΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ случайно Π½Π΅ Π±Ρ‹Π» Π·Π°Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Π½ ΠΏΠΎΠ»Π΅Π·Π½Ρ‹ΠΉ ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚

ΠŸΠ΅Ρ€Π΅Ρ‡ΠΈΡΠ»Π΅Π½Π½Ρ‹Π΅ Π΄Π°Π»Π΅Π΅ ΠΌΠ΅Ρ‚ΠΎΠ΄Ρ‹ Π΄ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‚ Π΄Ρ€ΡƒΠ³ Π΄Ρ€ΡƒΠ³Π°.

robots.txt

ΠŸΡ€ΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ содСрТимоС Ρ„Π°ΠΉΠ»Π° robots.txt.

Comparser (ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° Π½Π° Π·Π°ΠΊΡ€Ρ‹Ρ‚ΠΈΠ΅ ΠΌΠ΅Ρ‚Π°-Ρ‚Π΅Π³ΠΎΠΌ роботс)

Π’ настройках ΠšΠΎΠΌΠΏΠ°Ρ€ΡΠ΅Ρ€Π° ΠΏΠ΅Ρ€Π΅Π΄ сканированиСм ΡΠ½ΡΡ‚ΡŒ Π³Π°Π»ΠΎΡ‡ΠΊΡƒ:

компарсСр настройки роботскомпарсСр настройки роботс

ΠŸΡ€ΠΎΠ°Π½Π°Π»ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹ сканирования справа:

Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹ сканирования ΠΊΠΎΠΌΠΏΠ°Ρ€ΡΠ΅Ρ€Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹ сканирования компарсСр

Search Console (ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° ΠΏΠΎΠ»Π΅Π·Π½Ρ‹Ρ… Π·Π°Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹Ρ… рСсурсов)

Π’Π°ΠΆΠ½ΠΎ ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ, Ρ‡Ρ‚ΠΎ Ρ€ΠΎΠ±ΠΎΡ‚ Google ΠΈΠΌΠ΅Π΅Ρ‚ доступ ΠΊ Ρ„Π°ΠΉΠ»Π°ΠΌ стилСй ΠΈ изобраТСниям, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹ΠΌ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ страниц. Для этого Π½ΡƒΠΆΠ½ΠΎ Π²Ρ‹Π±ΠΎΡ€ΠΎΡ‡Π½ΠΎ ΠΏΡ€ΠΎΡΠΊΠ°Π½ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ страницы инструмСнтом Β«ΠŸΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ, ΠΊΠ°ΠΊ GooglebotΒ», Π½Π°ΠΆΠ°Π² Π½Π° ΠΊΠ½ΠΎΠΏΠΊΡƒ Β«ΠŸΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ ΠΈ ΠΎΡ‚ΠΎΠ±Ρ€Π°Π·ΠΈΡ‚ΡŒΒ». ΠŸΠΎΠ»ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ Π² Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π΅ Π΄Π²Π° изобраТСния Β«Π’Π°ΠΊ ΡƒΠ²ΠΈΠ΄Π΅Π» эту страницу Ρ€ΠΎΠ±ΠΎΡ‚ GooglebotΒ» ΠΈ Β«Π’Π°ΠΊ ΡƒΠ²ΠΈΠ΄ΠΈΡ‚ эту страницу ΠΏΠΎΡΠ΅Ρ‚ΠΈΡ‚Π΅Π»ΡŒ сайта» Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Π²Ρ‹Π³Π»ΡΠ΄Π΅Ρ‚ΡŒ практичСски ΠΎΠ΄ΠΈΠ½Π°ΠΊΠΎΠ²ΠΎ. ΠŸΡ€ΠΈΠΌΠ΅Ρ€ страницы с ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ°ΠΌΠΈ:

ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ½ΠΎΠΉ страницы с Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ стилями ΠΈ ΠΊΠ°Ρ€Ρ‚ΠΈΠ½ΠΊΠ°ΠΌΠΈΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ½ΠΎΠΉ страницы с Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ стилями ΠΈ ΠΊΠ°Ρ€Ρ‚ΠΈΠ½ΠΊΠ°ΠΌΠΈ

Π£Π²ΠΈΠ΄Π΅Ρ‚ΡŒ Π·Π°Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹Π΅ части страницы ΠΌΠΎΠΆΠ½ΠΎ Π² Ρ‚Π°Π±Π»ΠΈΡ†Π΅ Π½ΠΈΠΆΠ΅:

Π ΠΎΠ±ΠΎΡ‚Ρƒ Google Π½Π΅ ΡƒΠ΄Π°Π»ΠΎΡΡŒ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠ΅ рСсурсы Π²Π΅Π±-страницыРоботу Google Π½Π΅ ΡƒΠ΄Π°Π»ΠΎΡΡŒ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠ΅ рСсурсы Π²Π΅Π±-страницы

ΠŸΠΎΠ΄Ρ€ΠΎΠ±Π½Π΅Π΅ ΠΎ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π°Ρ… сканирования Π² справкС консоли. ВсС Π·Π°Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹Π΅ рСсурсы Π½ΡƒΠΆΠ½ΠΎ Ρ€Π°Π·Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt ΠΏΡ€ΠΈ ΠΏΠΎΠΌΠΎΡ‰ΠΈ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ Allow (Π½Π΅ получится Ρ€Π°Π·Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ внСшниС рСсурсы). ΠŸΡ€ΠΈ этом Π½ΡƒΠΆΠ½ΠΎ Ρ‚ΠΎΡ‡Π΅Ρ‡Π½ΠΎ Ρ€Π°Π·Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π½ΡƒΠΆΠ½Ρ‹Π΅ рСсурсы. Π’ ΠΏΡ€ΠΈΠ²Π΅Π΄Ρ‘Π½Π½ΠΎΠΌ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π±ΠΎΡ‚Ρƒ Π“ΡƒΠ³Π»Π° Π·Π°ΠΏΡ€Π΅Ρ‰Ρ‘Π½ доступ ΠΊ ΠΏΠ°ΠΏΠΊΠ΅ /templates/, Π½ΠΎ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ Ρ‚ΠΈΠΏΠ°ΠΌ Ρ„Π°ΠΉΠ»ΠΎΠ² Π²Π½ΡƒΡ‚Ρ€ΠΈ этой ΠΏΠ°ΠΏΠΊΠΈ:

User-agent: Googlebot
Allow: /templates/*.css
Allow: /templates/*.js
Allow: /templates/*.png
Allow: /templates/*.jpg
Allow: /templates/*.woff
Allow: /templates/*.ttf
Allow: /templates/*.svg
Disallow: /templates/

 

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу, Π² robots ?

Π”Π°Π»Π΅ΠΊΠΎ Π½Π΅ всСгда Π½ΡƒΠΆΠ½ΠΎ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ поисковыС систСмы индСксировали всю ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ Π½Π° сайтС.


Иногда, вСбмастСрам Π΄Π°ΠΆΠ΅ Π½ΡƒΠΆΠ½ΠΎ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ сайт ΠΎΡ‚ индСксации, Π½ΠΎ Π½ΠΎΠ²ΠΈΡ‡ΠΊΠΈ Π½Π΅ Π·Π½Π°ΡŽΡ‚, ΠΊΠ°ΠΊ это ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ. ΠŸΡ€ΠΈ ΠΆΠ΅Π»Π°Π½ΠΈΠΈ, ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ поисковиков любой ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚, рСсурс ΠΈΠ»ΠΈ Π΅Π³ΠΎ ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹Π΅ страницы.

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу? Π•ΡΡ‚ΡŒ нСсколько простых Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΉ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π²Ρ‹ смоТСтС ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ, для закрытия любой ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΎΡ‚ ЯндСкса ΠΈ Π“ΡƒΠ³Π»Π°. Π’ этой ΡΡ‚Π°Ρ‚ΡŒΠ΅ ΠΌΡ‹ подскаТСм, ΠΊΠ°ΠΊ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ сайт ΠΎΡ‚ индСксации Ρ‡Π΅Ρ€Π΅Π· robots, ΠΈ ΠΏΠΎΠΊΠ°ΠΆΠ΅ΠΌ, ΠΊΠ°ΠΊΠΎΠΉ ΠΊΠΎΠ΄ Π½ΡƒΠΆΠ½ΠΎ Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ Π² этот Ρ„Π°ΠΉΠ».

Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации ΡΠ°ΠΉΡ‚Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт

Π—Π°ΠΊΡ€Ρ‹Π²Π°Π΅ΠΌ ΠΎΡ‚ индСксации поисковиков

ΠŸΠ΅Ρ€Π΅Π΄ Ρ‚Π΅ΠΌ ΠΊΠ°ΠΊ Ρ€Π°ΡΡΠΊΠ°Π·Π°Ρ‚ΡŒ ΠΎ способС с ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ΠΌ robots.txt, ΠΌΡ‹ ΠΏΠΎΠΊΠ°ΠΆΠ΅ΠΌ, ΠΊΠ°ΠΊ Π½Π° WordPress Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт Ρ‡Π΅Ρ€Π΅Π· Π°Π΄ΠΌΠΈΠ½ΠΊΡƒ. Π’ настройках (Ρ€Π°Π·Π΄Π΅Π» Ρ‡Ρ‚Π΅Π½ΠΈΠ΅), Π΅ΡΡ‚ΡŒ удобная функция:

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу?Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу?

МоТно ΡƒΠ±Ρ€Π°Ρ‚ΡŒ Π²ΠΈΠ΄ΠΈΠΌΠΎΡΡ‚ΡŒ сайта, Π½ΠΎ ΠΎΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅ Π½Π° подсказку. Π’ Π½Π΅ΠΉ говорится, Ρ‡Ρ‚ΠΎ поисковыС систСмы всё ΠΆΠ΅ ΠΌΠΎΠ³ΡƒΡ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ рСсурс, поэтому Π»ΡƒΡ‡ΡˆΠ΅ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ ΠΏΡ€ΠΎΠ²Π΅Ρ€Π΅Π½Π½Ρ‹ΠΌ способом ΠΈ Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ Π½ΡƒΠΆΠ½Ρ‹ΠΉ ΠΊΠΎΠ΄ Π² robots.txt.

ВСкстовый Ρ„Π°ΠΉΠ» robots находится Π² ΠΊΠΎΡ€Π½Π΅ сайта, Π° Ссли Π΅Π³ΠΎ Ρ‚Π°ΠΌ Π½Π΅Ρ‚, создайтС Π΅Π³ΠΎ Ρ‡Π΅Ρ€Π΅Π· Π±Π»ΠΎΠΊΠ½ΠΎΡ‚.

Π—Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ сайт ΠΎΡ‚ индСксации ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ‚ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΉ ΠΊΠΎΠ΄:

User-agent: *

Disallow: /

ΠŸΡ€ΠΎΡΡ‚ΠΎ Π΄ΠΎΠ±Π°Π²ΡŒΡ‚Π΅ Π΅Π³ΠΎ Π½Π° ΠΏΠ΅Ρ€Π²ΡƒΡŽ строчку (Π·Π°ΠΌΠ΅Π½ΠΈΡ‚Π΅ ΡƒΠΆΠ΅ ΠΈΠΌΠ΅ΡŽΡ‰ΠΈΠ΅ΡΡ строчки). Если Π½ΡƒΠΆΠ½ΠΎ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ сайт Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΡ‚ ЯндСкса, вмСсто Π·Π²Π΅Π·Π΄ΠΎΡ‡ΠΊΠΈ ΡƒΠΊΠ°Π·Ρ‹Π²Π°ΠΉΡ‚Π΅ Yandex, Ссли Π·Π°ΠΊΡ€Ρ‹Π²Π°Π΅Ρ‚Π΅ рСсурс ΠΎΡ‚ Google, вставляйтС Googlebot.

Если Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ этот способ, просто Π΄ΠΎΠ±Π°Π²ΡŒΡ‚Π΅ Π² ΠΊΠΎΠ΄ сайта строчку <meta name=Β»robotsΒ» content=Β»noindex,followΒ» />.

Когда ΠΏΡ€ΠΎΠ΄Π΅Π»Π°Π΅Ρ‚Π΅ эти дСйствия, сайт большС Π½Π΅ Π±ΡƒΠ΄Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒΡΡ, это самый Π»ΡƒΡ‡ΡˆΠΈΠΉ способ для закрытия рСсурса ΠΎΡ‚ поисковых Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ².

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ страницу ΠΎΡ‚ индСксации?

Если Π½ΡƒΠΆΠ½ΠΎ ΡΠΊΡ€Ρ‹Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄Π½Ρƒ страницу, Ρ‚ΠΎ Π² Ρ„Π°ΠΉΠ»Π΅ robots Π½ΡƒΠΆΠ½ΠΎ Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΡ€ΠΎΠΏΠΈΡΠ°Ρ‚ΡŒ Π΄Ρ€ΡƒΠ³ΠΎΠΉ ΠΊΠΎΠ΄:

User-agent: *

Disallow: /category/kak-nachat-zarabatyvat

Π’ΠΎ Π²Ρ‚ΠΎΡ€ΠΎΠΉ строчкС Π²Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ ΡƒΠΊΠ°Π·Π°Ρ‚ΡŒ адрСс страницы, Π½ΠΎ Π±Π΅Π· названия Π΄ΠΎΠΌΠ΅Π½Π°. Как Π²Π°Ρ€ΠΈΠ°Π½Ρ‚, Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ страницу ΠΎΡ‚ индСксации, Ссли ΠΏΡ€ΠΎΠΏΠΈΡˆΠΈΡ‚Π΅ Π² Π΅Ρ‘ ΠΊΠΎΠ΄Π΅:

<META NAME=Β»ROBOTSΒ» CONTENT=Β»NOINDEXΒ»>

Π­Ρ‚ΠΎ Π±ΠΎΠ»Π΅Π΅ слоТный Π²Π°Ρ€ΠΈΠ°Π½Ρ‚, Π½ΠΎ Ссли Π½Π΅Ρ‚ ТСлания Π΄ΠΎΠ±Π°Π²Π»ΡΡ‚ΡŒ строчки Π² robots.txt, Ρ‚ΠΎ это ΠΎΡ‚Π»ΠΈΡ‡Π½Ρ‹ΠΉ Π²Ρ‹Ρ…ΠΎΠ΄. Если Π²Ρ‹ ΠΏΠΎΠΏΠ°Π»ΠΈ Π½Π° эту страницу Π² поисках способа закрытия ΠΎΡ‚ индСксации Π΄ΡƒΠ±Π»Π΅ΠΉ, Ρ‚ΠΎ ΠΏΡ€ΠΎΡ‰Π΅ всСго Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ всС ссылки Π² robots.

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации ссылку ΠΈΠ»ΠΈ тСкст?

Π—Π΄Π΅ΡΡŒ Ρ‚ΠΎΠΆΠ΅ Π½Π΅Ρ‚ Π½ΠΈΡ‡Π΅Π³ΠΎ слоТного, Π½ΡƒΠΆΠ½ΠΎ лишь Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½Ρ‹Π΅ Ρ‚Π΅Π³ΠΈ Π² ΠΊΠΎΠ΄ ссылки ΠΈΠ»ΠΈ ΠΎΠΊΡ€ΡƒΠΆΠΈΡ‚ΡŒ Π΅Ρ‘ ΠΈΠΌΠΈ:

<noindex>

<a rel=Β»nofollowΒ» href=Β»http://Workion.ru/Β»>Анкор</a>

</noindex>

Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ эти ΠΆΠ΅ Ρ‚Π΅Π³ΠΈ noindex, Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΡΠΊΡ€Ρ‹Π²Π°Ρ‚ΡŒ ΠΎΡ‚ поисковых систСм Ρ€Π°Π·Π½Ρ‹ΠΉ тСкст. Для этого Π½ΡƒΠΆΠ½ΠΎ Π² Ρ€Π΅Π΄Π°ΠΊΡ‚ΠΎΡ€Π΅ ΡΡ‚Π°Ρ‚ΡŒΠΈ ΠΏΡ€ΠΎΠΏΠΈΡΠ°Ρ‚ΡŒ этот Ρ‚Π΅Π³.

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу?Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт, ссылку, страницу?

К соТалСнию, Ρƒ Google Ρ‚Π°ΠΊΠΎΠ³ΠΎ Ρ‚Π΅Π³Π° Π½Π΅Ρ‚, поэтому ΡΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ Π½Π΅Π³ΠΎ Ρ‡Π°ΡΡ‚ΡŒ тСкста Π½Π΅ получится. Π‘Π°ΠΌΡ‹ΠΉ простой Π²Π°Ρ€ΠΈΠ°Π½Ρ‚ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ это – Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ с тСкстом.

Π‘ΠΊΡ€Ρ‹Π²Π°ΠΉΡ‚Π΅ ΠΎΡ‚ поисковых Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ² всё, Ρ‡Ρ‚ΠΎ Π½Π΅ ΡƒΠ½ΠΈΠΊΠ°Π»ΡŒΠ½ΠΎ ΠΈΠ»ΠΈ ΠΊΠ°ΠΊΠΈΠΌ-Ρ‚ΠΎ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ ΠΌΠΎΠΆΠ΅Ρ‚ Π½Π°Ρ€ΡƒΡˆΠ°Ρ‚ΡŒ ΠΈΡ… ΠΏΡ€Π°Π²ΠΈΠ»Π°. А Ссли Π²Ρ‹ Ρ€Π΅ΡˆΠΈΠ»ΠΈ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ ΠΏΠ΅Ρ€Π΅Π΄Π΅Π»Π°Ρ‚ΡŒ сайт, Ρ‚ΠΎ ΠΎΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ Π·Π°ΠΊΡ€Ρ‹Π²Π°ΠΉΡ‚Π΅ Π΅Π³ΠΎ ΠΎΡ‚ индСксации, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π±ΠΎΡ‚Ρ‹ Π½Π΅ индСксировали внСсСнныС измСнСния Π΄ΠΎ Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ Π²Ρ‹ Π½Π°Π΄ Π½ΠΈΠΌΠΈ ΠΏΠΎΡ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚Π΅ ΠΈ всё протСстируСтС.

Π’Π°ΠΌ Ρ‚Π°ΠΊΠΆΠ΅ Π±ΡƒΠ΄Π΅Ρ‚ интСрСсно:
β€” Π‘ΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ сайта – Π²Π°ΠΆΠ½Ρ‹ΠΉ Ρ„Π°ΠΊΡ‚ΠΎΡ€
β€” ΠŸΠΎΡ‡Π΅ΠΌΡƒ ЯндСкс Π½Π΅ индСксируСт сайт?
β€” ΠžΡ€ΠΈΠ³ΠΈΠ½Π°Π»ΡŒΠ½Ρ‹Π΅ тСксты для Π·Π°Ρ‰ΠΈΡ‚Ρ‹ ΠΎΡ‚ Yandex

Как Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ robots.txt? ΠŸΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt, Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации страницы Π½Π° сайтС

Как ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt?

Π€Π°ΠΉΠ» robots.txt управляСт индСксациСй сайта. Π’ Π½Π΅ΠΌ содСрТатся ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ€Π°Π·Ρ€Π΅ΡˆΠ°ΡŽΡ‚ ΠΈΠ»ΠΈ Π·Π°ΠΏΡ€Π΅Ρ‰Π°ΡŽΡ‚ поисковым систСмам Π΄ΠΎΠ±Π°Π²Π»ΡΡ‚ΡŒ Π² свою Π±Π°Π·Ρƒ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½Ρ‹Π΅ страницы ΠΈΠ»ΠΈ Ρ€Π°Π·Π΄Π΅Π»Ρ‹ Π½Π° сайтС. НапримСр, Π½Π° Π’Π°ΡˆΠ΅ΠΌ сайтС имССтся Ρ€Π°Π·Π΄Π΅Π» с ΠΊΠΎΠ½Ρ„ΠΈΠ΄Π΅Π½Ρ†ΠΈΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠ΅ΠΉ ΠΈΠ»ΠΈ слуТСбныС страницы. Π’Ρ‹ Π½Π΅ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΠ½ΠΈ Π½Π°Ρ…ΠΎΠ΄ΠΈΠ»ΠΈΡΡŒ Π² индСксС поисковых систСм, ΠΈ настраиваСтС Π·Π°ΠΏΡ€Π΅Ρ‚ Π½Π° ΠΈΡ… ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt.

Π’ Π΄Π°Π½Π½ΠΎΠΉ ΡΡ‚Π°Ρ‚ΡŒΠ΅ ΠΌΡ‹ рассмотрим, ΠΊΠ°ΠΊ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ robots.txt ΠΈ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΡΡ‚ΡŒ ΡƒΠΊΠ°Π·Π°Π½Π½Ρ‹Ρ… Π² Π½Π΅ΠΌ ΠΊΠΎΠΌΠ°Π½Π΄. Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΎΡ‚ индСксации сайт Ρ†Π΅Π»ΠΈΠΊΠΎΠΌ ΠΈΠ»ΠΈ ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹Π΅ страницы ΠΈΠ»ΠΈ Ρ€Π°Π·Π΄Π΅Π»Ρ‹.

Π§Ρ‚ΠΎΠ±Ρ‹ поисковыС систСмы нашли Ρ„Π°ΠΉΠ», ΠΎΠ½ Π΄ΠΎΠ»ΠΆΠ΅Π½ Ρ€Π°ΡΠΏΠΎΠ»Π°Π³Π°Ρ‚ΡŒΡΡ Π² ΠΊΠΎΡ€Π½Π΅Π²ΠΎΠΉ ΠΏΠ°ΠΏΠΊΠ΅ сайта ΠΈ Π±Ρ‹Ρ‚ΡŒ доступным ΠΏΠΎ адрСсу ваш_сайт.ru/robots.txt. Если Ρ„Π°ΠΉΠ»Π° Π½Π° сайтС Π½Π΅Ρ‚, поисковыС систСмы Π±ΡƒΠ΄ΡƒΡ‚ ΡΡ‡ΠΈΡ‚Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ ΠΌΠΎΠΆΠ½ΠΎ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ всС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹ Π½Π° сайтС. Π­Ρ‚ΠΎ ΠΌΠΎΠΆΠ΅Ρ‚ привСсти ΠΊ ΡΠ΅Ρ€ΡŒΠ΅Π·Π½Ρ‹ΠΌ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ°ΠΌ, Π² частности, попаданию Π² Π±Π°Π·Ρ‹ страниц-Π΄ΡƒΠ±Π»Π΅ΠΉ, Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² с ΠΊΠΎΠ½Ρ„ΠΈΠ΄Π΅Π½Ρ†ΠΈΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠ΅ΠΉ.

Π‘Ρ‚Ρ€ΡƒΠΊΡ‚ΡƒΡ€Π° Ρ„Π°ΠΉΠ»Π° robots.txt

Π’ Ρ„Π°ΠΉΠ»Π΅ robots.txt для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ поисковой систСмы ΠΌΠΎΠΆΠ½ΠΎ ΠΏΡ€ΠΎΠΏΠΈΡΠ°Ρ‚ΡŒ свои ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹. НапримСр, Π½Π° ΡΠΊΡ€ΠΈΠ½ΡˆΠΎΡ‚Π΅ Π½ΠΈΠΆΠ΅ Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΡƒΠ²ΠΈΠ΄Π΅Ρ‚ΡŒ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ для Ρ€ΠΎΠ±ΠΎΡ‚Π° ЯндСкса, Google ΠΈ для всСх ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Ρ… поисковых систСм:

ΠΏΡ€ΠΈΠΌΠ΅Ρ€ Ρ„Π°ΠΉΠ»Π° robots.txt

КаТдая ΠΊΠΎΠΌΠ°Π½Π΄Π° начинаСтся с Π½ΠΎΠ²ΠΎΠΉ строки. ΠœΠ΅ΠΆΠ΄Ρƒ Π±Π»ΠΎΠΊΠ°ΠΌΠΈ ΠΊΠΎΠΌΠ°Π½Π΄ для Ρ€Π°Π·Π½Ρ‹Ρ… поисковых систСм ΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ ΠΏΡƒΡΡ‚ΡƒΡŽ строку.

Настройка Ρ„Π°ΠΉΠ»Π° robots.txt: основныС Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹

Π§Ρ‚ΠΎΠ±Ρ‹ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt, Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π·Π½Π°Ρ‚ΡŒ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ – ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π²ΠΎΡΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°ΡŽΡ‚ Ρ€ΠΎΠ±ΠΎΡ‚Ρ‹ поисковых систСм. НиТС рассмотрим основныС Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ для настройки индСксации сайта Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt:

Π”ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Π° User-agent: * ΠΎΠ±ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ Π½ΠΈΠΆΠ΅ ΠΏΡ€Π΅Π΄Π½Π°Π·Π½Π°Ρ‡Π΅Π½Ρ‹ для всСх Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ², для ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Π½Π΅Ρ‚ ΠΏΠ΅Ρ€ΡΠΎΠ½Π°Π»ΡŒΠ½Ρ‹Ρ… ΠΊΠΎΠΌΠ°Π½Π΄ Π² Ρ„Π°ΠΉΠ»Π΅.

Π’Π°ΠΆΠ½ΠΎ ΡΠΎΠ±Π»ΡŽΠ΄Π°Ρ‚ΡŒ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ ΠΊΠΎΠΌΠ°Π½Π΄ Π² Ρ„Π°ΠΉΠ»Π΅. Π’ Π½Π°Ρ‡Π°Π»Π΅ ΠΏΡ€ΠΎΠΏΠΈΡΡ‹Π²Π°ΡŽΡ‚ΡΡ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ для ΠΊΠΎΠ½ΠΊΡ€Π΅Ρ‚Π½Ρ‹Ρ… Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ² (Yandex, Googlebot ΠΈ Ρ‚.Π΄.), ΠΏΠΎΡ‚ΠΎΠΌ – для всСх ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Ρ….

ДирСктиваНазначСниС
User-agent:Π£ΠΊΠ°Π·Ρ‹Π²Π°Π΅Ρ‚ Ρ€ΠΎΠ±ΠΎΡ‚Π° поисковой систСмы, для ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ³ΠΎ ΠΏΡ€Π΅Π΄Π½Π°Π·Π½Π°Ρ‡Π΅Π½Ρ‹ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ Π½ΠΈΠΆΠ΅. Названия Ρ€ΠΎΠ±ΠΎΡ‚ΠΎΠ² ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ Π² справочной ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ ΠΏΡ€Π΅Π΄ΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ поисковыС систСмы.
Disallow:Данная Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Π° Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt Π·Π°ΠΊΡ€Ρ‹Π²Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠΉ страницы ΠΈΠ»ΠΈ Ρ€Π°Π·Π΄Π΅Π»Π° Π½Π° сайтС. Π‘Π°ΠΌΠ° страница ΠΈΠ»ΠΈ Ρ€Π°Π·Π΄Π΅Π» ΡƒΠΊΠ°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΡ‚ ΠΊΠΎΡ€Π½Π΅Π²ΠΎΠΉ ΠΏΠ°ΠΏΠΊΠΈ сайта, Π±Π΅Π· Π΄ΠΎΠΌΠ΅Π½Π° (см. ΡΠΊΡ€ΠΈΠ½ΡˆΠΎΡ‚ Π² Π½Π°Ρ‡Π°Π»Π΅ ΡΡ‚Π°Ρ‚ΡŒΠΈ).
Allow:Π Π°Π·Ρ€Π΅ΡˆΠ°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠΉ страницы ΠΈΠ»ΠΈ Ρ€Π°Π·Π΄Π΅Π»Π° Π½Π° сайтС. Π”ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹ Allow Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Ρ€Π°ΡΠΏΠΎΠ»Π°Π³Π°Ρ‚ΡŒ Π½ΠΈΠΆΠ΅ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ² Disallow.
Host:Π£ΠΊΠ°Π·Ρ‹Π²Π°Π΅Ρ‚ Π³Π»Π°Π²Π½ΠΎΠ΅ Π·Π΅Ρ€ΠΊΠ°Π»ΠΎ сайта (Π»ΠΈΠ±ΠΎ с www, Π»ΠΈΠ±ΠΎ Π±Π΅Π· www). УчитываСтся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ЯндСксом.
Sitemap:Π’ Π΄Π°Π½Π½ΠΎΠΉ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Π΅ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ ΠΏΡ€ΠΎΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΏΡƒΡ‚ΡŒ ΠΊ ΠΊΠ°Ρ€Ρ‚Π΅ сайта, Ссли ΠΎΠ½Π° имССтся Π½Π° сайтС.

Π‘ΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‚ Π΄Ρ€ΡƒΠ³ΠΈΠ΅ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ Ρ€Π΅ΠΆΠ΅. ΠŸΠΎΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎΠ±ΠΎ всСх Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΈΠ²Π°Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt, ΠΌΠΎΠΆΠ½ΠΎ здСсь.

ЧастныС случаи ΠΊΠΎΠΌΠ°Π½Π΄ Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt

Π Π°Π·Π±Π΅Ρ€Π΅ΠΌ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΡ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ΡΡ Π’Π°ΠΌ Π² Ρ€Π°Π±ΠΎΡ‚Π΅:

ΠšΠΎΠΌΠ°Π½Π΄Π°Π§Ρ‚ΠΎ ΠΎΠ±ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚
User-agent: YandexНачало Π±Π»ΠΎΠΊΠ° ΠΊΠΎΠΌΠ°Π½Π΄ для основного Ρ€ΠΎΠ±ΠΎΡ‚Π° поисковой систСмы ЯндСкс.
User-agent: GooglebotНачало Π±Π»ΠΎΠΊΠ° ΠΊΠΎΠΌΠ°Π½Π΄ для основного Ρ€ΠΎΠ±ΠΎΡ‚Π° поисковой систСмы Google.
User-agent: *

Disallow: /

Данная ΠΊΠΎΠΌΠ°Π½Π΄Π° Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ Π·Π°ΠΊΡ€Ρ‹Π²Π°Π΅Ρ‚ сайт ΠΎΡ‚ индСксации всСми поисковыми систСмами.
User-agent: *

Disallow: /

Allow: /test.html

Π”Π°Π½Π½Ρ‹Π΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ Π·Π°ΠΊΡ€Ρ‹Π²Π°ΡŽΡ‚ всС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹ Π½Π° сайтС ΠΎΡ‚ индСксации, ΠΊΡ€ΠΎΠΌΠ΅ страницы /test.html
Disallow: /*.docДанная ΠΊΠΎΠΌΠ°Π½Π΄Π° Π·Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ„Π°ΠΉΠ»Ρ‹ MS Word Π½Π° сайтС. Если Π½Π° сайтС содСрТится ΠΊΠΎΠ½Ρ„ΠΈΠ΄Π΅Π½Ρ†ΠΈΠ°Π»ΡŒΠ½Π°Ρ информация Π² Ρ„Π°ΠΉΠ»Π°Ρ… ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠ³ΠΎ Ρ‚ΠΈΠΏΠ°, ΠΈΠΌΠ΅Π΅Ρ‚ смысл Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ Ρ‚Π°ΠΊΠΈΠ΅ Ρ„Π°ΠΉΠ»Ρ‹ ΠΎΡ‚ индСксации.
Disallow: /*.pdfДанная ΠΊΠΎΠΌΠ°Π½Π΄Π° Π² robots.txt Π·Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π½Π° сайтС Ρ„Π°ΠΉΠ»Ρ‹ Π² Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π΅ PDF. Если Π’Ρ‹ Π²Ρ‹ΠΊΠ»Π°Π΄Ρ‹Π²Π°Π΅Ρ‚Π΅ Π½Π° сайтС ΠΊΠ°ΠΊΠΈΠ΅-Π»ΠΈΠ±ΠΎ Ρ„Π°ΠΉΠ»Ρ‹, доступныС для скачивания послС ΠΎΠΏΠ»Π°Ρ‚Ρ‹ ΠΈΠ»ΠΈ послС Π°Π²Ρ‚ΠΎΡ€ΠΈΠ·Π°Ρ†ΠΈΠΈ, ΠΈΠΌΠ΅Π΅Ρ‚ смысл Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΈΡ… ΠΎΡ‚ индСксации. Π’ ΠΈΠ½ΠΎΠΌ случаС Π΄Π°Π½Π½Ρ‹Π΅ Ρ„Π°ΠΉΠ»Ρ‹ смогут Π½Π°ΠΉΡ‚ΠΈ Π² поисковых систСмах.
Disallow: /basket/Команда Π·Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ всС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹ Π² Ρ€Π°Π·Π΄Π΅Π»Π΅ /basket/.
Host: www.yandex.ruКоманда Π·Π°Π΄Π°Π΅Ρ‚ для сайта yandex.ru основным Π·Π΅Ρ€ΠΊΠ°Π»ΠΎΠΌ адрСс сайта с www. БоотвСтствСнно, Π² поискС с высокой Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ Π±ΡƒΠ΄ΡƒΡ‚ Π²Ρ‹Π²ΠΎΠ΄ΠΈΡ‚ΡŒΡΡ адрСса страниц с www.
Host: yandex.ruДанная ΠΊΠΎΠΌΠ°Π½Π΄Π° Π·Π°Π΄Π°Π΅Ρ‚ для сайта yandex.ru Π² качСствС основного Π·Π΅Ρ€ΠΊΠ°Π»Π° адрСс yandex.ru (Π±Π΅Π· www).

ИспользованиС спСцсимволов Π² ΠΊΠΎΠΌΠ°Π½Π΄Π°Ρ… robots.txt

Π’ ΠΊΠΎΠΌΠ°Π½Π΄Π°Ρ… robots.txt ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ Π΄Π²Π° спСцсимвола: * ΠΈ $:

  1. Π—Π²Π΅Π·Π΄ΠΎΡ‡ΠΊΠ° * замСняСт собой Π»ΡŽΠ±ΡƒΡŽ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ символов.
  2. По ΡƒΠΌΠΎΠ»Ρ‡Π°Π½ΠΈΡŽ Π² ΠΊΠΎΠ½Ρ†Π΅ ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ добавляСтся *. Π§Ρ‚ΠΎΠ±Ρ‹ ΠΎΡ‚ΠΌΠ΅Π½ΠΈΡ‚ΡŒ это, Π² ΠΊΠΎΠ½Ρ†Π΅ строки Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ ΠΏΠΎΡΡ‚Π°Π²ΠΈΡ‚ΡŒ символ $.

Допустим, Ρƒ нас имССтся сайт с адрСсом site.com, ΠΈ ΠΌΡ‹ Ρ…ΠΎΡ‚ΠΈΠΌ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt для нашСго ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°. Π Π°Π·Π±Π΅Ρ€Π΅ΠΌ дСйствиС спСцсимволов Π½Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π°Ρ…:

ΠšΠΎΠΌΠ°Π½Π΄Π°Π§Ρ‚ΠΎ ΠΎΠ±ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚
Disallow: /basket/Π—Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ всСх Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² Π² Ρ€Π°Π·Π΄Π΅Π»Π΅ /basket/, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€:

site.com/basket/
site.com/basket/2/
site.com/basket/3/
site.com/basket/4/

Disallow: /basket/$Π—Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Π°:
site.com/basket/

Π”ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹:
site.com/basket/2/
site.com/basket/3/
site.com/basket/4/

ΠΎΡΡ‚Π°ΡŽΡ‚ΡΡ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ для индСксации.

ΠŸΡ€ΠΈΠΌΠ΅Ρ€ настройки Ρ„Π°ΠΉΠ»Π° robots.txt

Π”Π°Π²Π°ΠΉΡ‚Π΅ Ρ€Π°Π·Π±Π΅Ρ€Π΅ΠΌ Π½Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅, ΠΊΠ°ΠΊ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt. НиТС находится ΠΏΡ€ΠΈΠΌΠ΅Ρ€ Ρ„Π°ΠΉΠ»Π°, Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ ΠΊΠΎΠΌΠ°Π½Π΄ ΠΈΠ· ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ³ΠΎ Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΠΎΠ΄Ρ€ΠΎΠ±Π½ΠΎ рассмотрСно Π² ΡΡ‚Π°Ρ‚ΡŒΠ΅.

ΠΏΡ€ΠΈΠΌΠ΅Ρ€ Ρ„Π°ΠΉΠ»Π° robots.txt

Π’ Π΄Π°Π½Π½ΠΎΠΌ Ρ„Π°ΠΉΠ»Π΅ ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, Ρ‡Ρ‚ΠΎ ΠΎΡ‚ поисковых систСм ЯндСкс ΠΈ Google Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ ΠΎΡ‚ индСксации всС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹ Π½Π° сайтС, ΠΊΡ€ΠΎΠΌΠ΅ страницы /test.html

ΠžΡΡ‚Π°Π»ΡŒΠ½Ρ‹Π΅ поисковыС систСмы ΠΌΠΎΠ³ΡƒΡ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ всС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹, ΠΊΡ€ΠΎΠΌΠ΅:

  • Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² Π² Ρ€Π°Π·Π΄Π΅Π»Π°Ρ… /personal/ ΠΈ /help/
  • Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Π° ΠΏΠΎ адрСсу /index.html
  • Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ², адрСса ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Π²ΠΊΠ»ΡŽΡ‡Π°ΡŽΡ‚ ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ clear_cache=Y

ПослСдниС Π΄Π²Π΅ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ внимания.

Командой /index.html Π·Π°ΠΊΡ€Ρ‹Ρ‚ ΠΎΡ‚ индСксации Π΄ΡƒΠ±Π»ΡŒ Π³Π»Π°Π²Π½ΠΎΠΉ страницы сайта. Как ΠΏΡ€Π°Π²ΠΈΠ»ΠΎ, главная страница доступна ΠΏΠΎ Π΄Π²ΡƒΠΌ адрСсам:

  1. site.com
  2. site.com/index.html ΠΈΠ»ΠΈ site.com/index.php

Если Π½Π΅ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ Π²Ρ‚ΠΎΡ€ΠΎΠΉ адрСс ΠΎΡ‚ индСксации, Ρ‚ΠΎ Π² поискС ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΠΎΡΠ²ΠΈΡ‚ΡŒΡΡ Π΄Π²Π΅ Π³Π»Π°Π²Π½Ρ‹Ρ… страницы!

Команда Disallow: /*?clear_cache=Y Π·Π°ΠΊΡ€Ρ‹Π²Π°Π΅Ρ‚ ΠΎΡ‚ индСксации всС страницы, Π² адрСсах ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ символов ?clear_cache=Y. Часто Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹ΠΉ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΎΠ½Π°Π» Π½Π° сайтС, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, сортировки ΠΈΠ»ΠΈ Ρ„ΠΎΡ€ΠΌΡ‹ ΠΏΠΎΠ΄Π±ΠΎΡ€Π° Π΄ΠΎΠ±Π°Π²Π»ΡΡŽΡ‚ ΠΊ адрСсам страниц Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Π΅ ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Ρ‹, ΠΈΠ·-Π·Π° Ρ‡Π΅Π³ΠΎ гСнСрируСтся мноТСство страниц-Π΄ΡƒΠ±Π»Π΅ΠΉ. Закрывая Π΄ΡƒΠ±Π»ΠΈ с ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Π°ΠΌΠΈ ΠΎΡ‚ индСксации, Π’Ρ‹ Ρ€Π΅ΡˆΠ°Π΅Ρ‚Π΅ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡƒ попадания Π΄ΡƒΠ±Π»Π΅ΠΉ Π² Π±Π°Π·Ρƒ поисковых систСм.

ΠŸΠΎΡΠΌΠΎΡ‚Ρ€ΠΈΡ‚Π΅, ΠΊΠ°ΠΊΠΈΠ΅ страницы Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡ€Ρ‹Π²Π°Ρ‚ΡŒ ΠΎΡ‚ индСксации, Π² ΡΡ‚Π°Ρ‚ΡŒΠ΅ ΠΏΡ€ΠΎ ΠΏΡ€ΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅ тСхничСского Π°ΡƒΠ΄ΠΈΡ‚Π° сайта.

Как ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ Ρ„Π°ΠΉΠ» robots.txt?

ПослС добавлСния Ρ„Π°ΠΉΠ»Π° robots.txt Π½Π° сайт Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ ΠΊΠΎΡ€Ρ€Π΅ΠΊΡ‚Π½ΠΎΡΡ‚ΡŒ Π΅Π³ΠΎ настройки. Для этого поисковыС систСмы ΠΏΡ€Π΅Π΄Π»Π°Π³Π°ΡŽΡ‚ ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½Ρ‹Π΅ инструмСнты. Π’ ΡΡ‚Π°Ρ‚ΡŒΠ΅ рассмотрим инструмСнт ΠΎΡ‚ ЯндСкса, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ позволяСт ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΡΡ‚ΡŒ настройки robots.txt. Он доступСн Π² сСрвисС ЯндСкс.ВСбмастСр Π²ΠΎ Π²ΠΊΠ»Π°Π΄ΠΊΠ΅ Β«Π˜Π½ΡΡ‚Ρ€ΡƒΠΌΠ΅Π½Ρ‚Ρ‹Β» – «Анализ robots.txtΒ».

Π’ Π²Π΅Ρ€Ρ…Π½Π΅ΠΉ части страницы Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΡƒΠ²ΠΈΠ΄Π΅Ρ‚ΡŒ провСряСмый сайт (Π½Π° ΡΠΊΡ€ΠΈΠ½ΡˆΠΎΡ‚Π΅ Π·Π°Ρ‚Π΅Ρ€Ρ‚), содСрТаниС Ρ„Π°ΠΉΠ»Π° robots.txt, извСстноС ЯндСксу. ΠžΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΡŒΡ‚Π΅, Ρ‡Ρ‚ΠΎ содСрТаниС Ρ„Π°ΠΉΠ»Π° ΡƒΠΊΠ°Π·Π°Π½ΠΎ ΠΊΠΎΡ€Ρ€Π΅ΠΊΡ‚Π½ΠΎ. Если Π² ЯндСкс.ВСбмастСр выводятся старыС ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹, Π½Π°ΠΆΠΌΠΈΡ‚Π΅ Π½Π° ΠΊΠ½ΠΎΠΏΠΊΡƒ Β«Π—Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚ΡŒΒ» (сСрый Π·Π½Π°Ρ‡ΠΎΠΊ справа ΠΎΡ‚ ссылки Π½Π° провСряСмый сайт, Π²Ρ‹Π΄Π΅Π»Π΅Π½ Π½Π° ΡΠΊΡ€ΠΈΠ½ΡˆΠΎΡ‚Π΅ Ρ€Π°ΠΌΠΊΠΎΠΉ):

ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° Ρ„Π°ΠΉΠ»Π° robots.txt Π² ЯндСкс.ВСбмастСр

Π’ Π½ΠΈΠΆΠ½Π΅ΠΉ части страницы Π΄ΠΎΠ±Π°Π²ΡŒΡ‚Π΅ Π² ΠΏΠΎΠ»Π΅ Β«Π Π°Π·Ρ€Π΅ΡˆΠ΅Π½Ρ‹ Π»ΠΈ URL?Β» список страниц, ΠΏΠΎ ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ Π’Ρ‹ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ, Ρ€Π°Π·Ρ€Π΅ΡˆΠ΅Π½Π° ΠΈΡ… индСксация ΠΈΠ»ΠΈ Π½Π΅Ρ‚. НаТмитС ΠΊΠ½ΠΎΠΏΠΊΡƒ Β«ΠŸΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒΒ», ΠΈ Π½ΠΈΠΆΠ΅ вывСдутся Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹. ΠšΡ€Π°ΡΠ½Ρ‹ΠΉ Π·Π½Π°Ρ‡ΠΎΠΊ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ страница Π·Π°ΠΏΡ€Π΅Ρ‰Π΅Π½Π° ΠΊ индСксации, Π·Π΅Π»Π΅Π½Ρ‹ΠΉ – Ρ€Π°Π·Ρ€Π΅ΡˆΠ΅Π½Π°:

ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° Ρ„Π°ΠΉΠ»Π° robots.txt Π² ЯндСкс.ВСбмастСр

АналогичныС инструмСнты ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠΈ Ρ„Π°ΠΉΠ»Π° ΠΈΠΌΠ΅ΡŽΡ‚ΡΡ Π² Π¦Π΅Π½Ρ‚Ρ€Π΅ вСбмастСров Google.

ВрСмя ΠΎΡ‚ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ Π² структуру сайта вносятся измСнСния. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ пСриодичСски ΠΏΡ€ΠΎΠ²Π΅Ρ€ΡΡ‚ΡŒ, ΠΊΠ°ΠΊΠΈΠ΅ страницы ΠΈ Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹ находятся Π² индСксС поисковых систСм. ΠŸΡ€ΠΈ появлСнии Π² индСксС Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Ρ‚Π°ΠΌ Π±Ρ‹Ρ‚ΡŒ, ΠΈΡ… ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ Π² Ρ„Π°ΠΉΠ»Π΅ robots.txt.

Π Π΅ΠΊΠΎΠΌΠ΅Π½Π΄ΡƒΠ΅ΠΌ

Как ΡΠΎΡΡ‚Π°Π²ΠΈΡ‚ΡŒ тСкст ссылки?

Один ΠΈΠ· самых Π²Π°ΠΆΠ½Ρ‹Ρ… вопросов Π² ΠΏΡ€ΠΎΠ΄Π²ΠΈΠΆΠ΅Π½ΠΈΠΈ сайта – ΠΊΠ°ΠΊΠΈΠ΅ тСксты ссылок ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ? На этот счСт сущСствуСт мноТСство ΠΌΠ½Π΅Π½ΠΈΠΉ, я ΠΈΠ·Π»ΠΎΠΆΡƒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ …

ΠŸΡ€ΠΎΠ΄Π²ΠΈΠΆΠ΅Π½ΠΈΠ΅ сайта с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ссылок: ΠΊΠ°ΠΊ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ?

Π’ Π΄Π°Π½Π½ΠΎΠΉ ΡΡ‚Π°Ρ‚ΡŒΠ΅ рассмотрим, ΠΊΠ°ΠΊ поисковыС систСмы ΡƒΡ‡ΠΈΡ‚Ρ‹Π²Π°ΡŽΡ‚ внСшниС ссылки, ΠΊΠ°ΠΊΠΈΠ΅ ссылки приносят ΠΏΠΎΠ»ΡŒΠ·Ρƒ сайту ΠΈ ΠΊΠ°ΠΊ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ Ρ€Π°Π·Π²ΠΈΠ²Π°Ρ‚ΡŒ ссылочный …

Как Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ сайт ΠΎΡ‚ индСксации с noindex/robots.txt?

Когда Π²Ρ‹ Π·Π°Π½ΠΈΠΌΠ°Π΅Ρ‚Π΅ΡΡŒ SEO для сайт, Ρ‚ΠΎ часто Π½ΡƒΠΆΠ½ΠΎ ΡΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΊΠ°ΠΊΡƒΡŽ-Π»ΠΈΠ±ΠΎ Ρ‡Π°ΡΡ‚ΡŒ сайта ΠΈΠ»ΠΈ ΠΆΠ΅ Ρ†Π΅Π»ΡƒΡŽ страницу Ρ†Π΅Π»ΠΈΠΊΠΎΠΌ. Π’ этой записи я расскаТу ΠΎ Ρ‚ΠΎΠΌ ΠΊΠ°ΠΊ это ΠΌΠΎΠΆΠ½ΠΎ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ.  

Если Π²Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ Π·Π°ΠΊΡ€Ρ‹Ρ‚ΡŒ ΠΊΠ°ΠΊΡƒΡŽ-Π»ΠΈΠ±ΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΡƒΡŽ страницу сайта, Ρ‚ΠΎ ΠΌΠΎΠΆΠ½ΠΎ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ meta тэгом, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π·Π°ΠΏΡ€Π΅Ρ‚ΠΈΡ‚ΡŒ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ Ρ†Π΅Π»ΠΎΠΉ страницы.

Π§Ρ‚ΠΎΠ±Ρ‹ Π·Π°ΠΏΡ€Π΅Ρ‚ΠΈΡ‚ΡŒ ΠΈΠ½Π΄Π΅ΠΊΡΠ°Ρ†ΠΈΡŽ страницы для всСх Π±ΠΎΡ‚ΠΎΠ², Ρ‚ΠΎ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ HTML ΠΊΠΎΠ΄ΠΎΠΌ Π½ΠΈΠΆΠ΅.

<meta name="robots" content="noindex">

Если Π²Ρ‹ Π½Π°Ρ†Π΅Π»Π΅Π½Ρ‹ Π½Π° ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½Ρ‹ΠΉ поисковик (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€: Google), Ρ‚ΠΎ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ это ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ ΠΊΠ°ΠΊ ΠΏΠΎΠΊΠ°Π·Π°Π½ΠΎ Π½ΠΈΠΆΠ΅.

<meta name="googlebot" content="noindex">

ΠžΡ„ΠΈΡ†ΠΈΠ°Π»ΡŒΠ½ΠΎΠ³ΠΎ источника ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ ΠΏΠΎ этой ссылкС.

Если Π²Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ ΡΠΏΡ€ΡΡ‚Π°Ρ‚ΡŒ ΠΈΠ· индСксации ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΡƒΡŽ Ρ‡Π°ΡΡ‚ΡŒ страницы вашСго сайта, Ρ‚ΠΎ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ <noindex> Ρ‚эгом.. Как Π² ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π½ΠΈΠΆΠ΅.

<noindex> <p>Π‘ΠΎΡ‚Ρ‹ Π½Π΅ Π±ΡƒΠ΄ΡƒΡ‚ этого ΡΡ‡ΠΈΡ‚Ρ‹Π²Π°Ρ‚ΡŒ</p> </noindex>

ВсС Ρ‡Ρ‚ΠΎ ΡƒΠΊΠ°Π·Π°Π½ΠΎ Π²Π½ΡƒΡ‚Ρ€ΠΈ noindex остаСтся Π²Π½Π΅ видимости Π±ΠΎΡ‚Π°. Π’ Ρ†Π΅Π»ΠΎΠΌ, информация Π²Π½ΡƒΡ‚Ρ€ΠΈ всС Ρ€Π°Π²Π½ΠΎ читаСтся ΠΈΠΌ, Π½ΠΎ остаСтся ΠΏΡ€ΠΎΠΈΠ³Π½ΠΎΡ€ΠΈΡ€ΠΎΠ²Π°Π½Π° ΠΏΡ€ΠΈ поискС ΠΊΠ°ΠΊΠΎΠΉ-Π»ΠΈΠ±ΠΎ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ Ρ‡Π΅Ρ€Π΅Π· поисковик.

robots.txt ΡΠ²Π»ΡΠ΅Ρ‚ся самым распространСнным Π²ΠΈΠ΄ΠΎΠΌ установки ограничСния для просмотра ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚Π° Π±ΠΎΡ‚Π°ΠΌΠΈ. Π”Ρ€ΡƒΠ³ΠΈΠΌΠΈ словами, Π΄Π°Π½Π½Ρ‹ΠΉ Ρ„Π°ΠΉΠ» устанавливаСт инструкции для Π±ΠΎΡ‚ΠΎΠ² (Ρ‡Ρ‚ΠΎ ΠΌΠΎΠΆΠ½ΠΎ ΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ, Π° Ρ‡Ρ‚ΠΎ Π½Π΅Ρ‚).

ИдСального Π²Π°Ρ€ΠΈΠ°Π½Ρ‚Π° этого Ρ„Π°ΠΉΠ»Π° Π½Π΅ сущСствуСт. Для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π° Π΄ΠΎΠ»ΠΆΠ΅Π½ ΠΈΠΌΠ΅Ρ‚ΡŒΡΡ свой собствСнный robots.txt Ρ„Π°ΠΉΠ», ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ настроСн ΠΈ скрываСт Π½Π΅ΠΆΠ΅Π»Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΏΠ°ΠΏΠΊΠΈ/Ρ€Π°Π·Π΄Π΅Π»Ρ‹ сайта.

Π˜ΠΌΠ΅ΠΉΡ‚Π΅ Π²Π²ΠΈΠ΄Ρƒ, Ρ‡Ρ‚ΠΎ Π½Π΅ всС Π±ΠΎΡ‚Ρ‹ Π±ΡƒΠ΄ΡƒΡ‚ ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚ΡŒ этому Ρ„Π°ΠΉΠ»Ρƒ. Π•ΡΡ‚ΡŒ мноТСство Π΄Ρ€ΡƒΠ³ΠΈΡ… ΠΏΠ»ΠΎΡ…ΠΈΡ… ΠΈ Ρ…ΠΎΡ€ΠΎΡˆΠΈΡ… Π±ΠΎΡ‚ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ просто ΠΏΡƒΡ‚Π΅ΡˆΠ΅ΡΡ‚Π²ΡƒΡŽΡ‚ ΠΏΠΎ Π²Π΅Π±Ρƒ, ΡΠΎΠ±ΠΈΡ€Π°ΡŽΡ‚ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΈ Ρ‚Π΄.

Π§Ρ‚ΠΎ я Ρ‚ΠΎΡ‡Π½ΠΎ Π²Π°ΠΌ ΠΌΠΎΠ³Ρƒ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ: robots.txt Π½Π΅ Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΡ€ΠΎΠΈΠ³Π½ΠΎΡ€ΠΈΡ€ΠΎΠ²Π°Π½ извСстными поисковыми систСмами.

НСкоторыС ΠΈΠ· ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ² я использовал с этого источника. Если ΠΊΠΎΠΌΡƒ интСрСсно, Π·Π°ΠΉΠ΄ΠΈΡ‚Π΅ ΠΈ посмотритС (достаточно Π½Π΅ ΠΏΠ»ΠΎΡ…ΠΎΠΉ рСсурс).

ΠŸΡ€ΠΈΠΌΠ΅Ρ€ 1

Π”Π°Π½Π½Ρ‹ΠΉ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΈΠΌΠ΅Π΅Ρ‚ Π΄Π²Π° свойства.

  1. User-agent β€” ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ Π³ΠΎΠ²ΠΎΡ€ΠΈΡ‚ Ρ€ΠΎΠ±ΠΎΡ‚Ρƒ, Ρ‡Ρ‚ΠΎ любой Ρ‚ΠΈΠΏ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΠΎΡΠ΅Ρ‚ΠΈΡ‚ΡŒ страницу
  2. Disallow β€” Π·Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ ΠΈΠ½Π΄Π΅ΠΊΡΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΊΠ°ΠΊΠΈΠ΅-Π»ΠΈΠ±ΠΎ страницы Π½Π° сайтС, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ установит этот robots.txt
User-agent: *
Disallow: /

А Π²ΠΎΡ‚ этот ΠΏΡ€ΠΈΠΌΠ΅Ρ€ (Π½ΠΈΠΆΠ΅), Ρ€Π°Π·Ρ€Π΅ΡˆΠΈΡ‚ΡŒ ΠΏΠΎΡΠ΅Ρ‰Π°Ρ‚ΡŒ Π»ΡŽΠ±Ρ‹Π΅ страницы сайта.

User-agent: *
Disallow:

ΠŸΡ€ΠΈΠΌΠ΅Ρ€ 2

ΠŸΡ€ΠΈΠΌΠ΅Ρ€ Π½ΠΈΠΆΠ΅ Π·Π°ΠΏΡ€Π΅Ρ‰Π°Π΅Ρ‚ Π±ΠΎΡ‚Π°ΠΌ ΠΏΠΎΡΠ΅Ρ‰Π°Ρ‚ΡŒ ΠΏΠ°ΠΏΠΊΡƒ cgi-bin ΠΈ tmp Π² ΠΊΠΎΡ€Π½Π΅ сайта. Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΏΡ€ΠΎΠΏΠΈΡΡ‹Π²Π°Ρ‚ΡŒ сколько Π·Π°Ρ…ΠΎΡ‚ΠΈΡ‚Π΅ Disallow, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ Ρ€Π°ΡΠΏΠΈΡΠ°Ρ‚ΡŒ инструкции для Π±ΠΎΡ‚Π°.

User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/

 ΠŸΡ€ΠΈΠΌΠ΅Ρ€ 3

Π”Π°Π½Π½Ρ‹ΠΉ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ Π΄Π²Π° Ρ€Π°Π·Π½Ρ‹Ρ… ΠΏΡ€Π°Π²ΠΈΠ»Π°.

ΠŸΠ΅Ρ€Π²ΠΎΠ΅ β€” это устанавливаСт ΠΏΡ€Π°Π²ΠΈΠ»Π° Ρ‚ΠΎΠ»ΡŒΠΊΠΎ для User-agent: Google Π±ΠΎΡ‚Π°. И Ρ€Π°Π·Ρ€Π΅ΡˆΠ°Π΅Ρ‚ Π΅ΠΌΡƒ Π°Π½Π°Π»ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π»ΡŽΠ±Ρ‹Π΅ страницы сайта.

Π’Ρ‚ΠΎΡ€ΠΎΠ΅ β€” это всС ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Π΅ Π±ΠΎΡ‚Ρ‹ User-agent: *, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ ΠΌΠΎΠ³ΡƒΡ‚ ΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ Π½ΠΈΠΊΠ°ΠΊΠΈΠ΅ страницы сайта.

User-agent: Google
Disallow:

User-agent: *
Disallow: /

Π§Ρ‚ΠΎΠ±Ρ‹ Π·Π°ΠΏΡ€Π΅Ρ‚ΠΈΡ‚ΡŒ индСксаю для ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠ³ΠΎ Ρ„Π°ΠΉΠ»Π°, ΠΌΠΎΠΆΠ½ΠΎ просто ΠΏΡ€ΠΎΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΏΠΎΠ»Π½Ρ‹ΠΉ ΠΏΡƒΡ‚ΡŒ Π΄ΠΎ Ρ„Π°ΠΉΠ»Π°, ΠΎΡ‚ корня сайта. НапримСр, Ρƒ вас Π΅ΡΡ‚ΡŒ Ρ„Π°ΠΉΠ» main.hml, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ находится Π² /src/ ΠΏΠ°ΠΏΠΊΡƒ, Ρ‚ΠΎ ваш robots Π±ΡƒΠ΄Π΅Ρ‚ Π²Ρ‹Π³Π»ΡΠ΄Π΅Ρ‚ΡŒ ΠΊΠ°ΠΊ Π½Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π½ΠΈΠΆΠ΅:

User-agent: *
Disallow: /src/main.html

Π”ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ ΠΊΠΎΠΌΠΌΠ΅Π½Ρ‚Π°Ρ€ΠΈΠΉ

Π’Π°Ρˆ адрСс email Π½Π΅ Π±ΡƒΠ΄Π΅Ρ‚ ΠΎΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½. ΠžΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ поля ΠΏΠΎΠΌΠ΅Ρ‡Π΅Π½Ρ‹ *