Файл sitemap.xml нужен для роботов поисковых систем, что бы они “понимали”, какие страницы нужно индексировать.
Без файла sitemap.xml в первую очередь проиндексирована только одна главная страница. По ссылкам с нее роботы пойдут намного позже (страниц и сайтов стало много и робота на всех не хватает). Файл sitemap влияет только на индексацию сайта и никак не влияет на показ сайта в поисковой выдаче (т.е. роботы про сайт знают, а уж как его показывать в выдаче – это их дело).
Может быть ситуация:
- сами страницы URL есть
- а на сайте на них ссылок нет
Как это может быть?
А это нормальный интернет-магазин. Проблема в том, что есть основная страница товара вида
shop.ru/brend/tovar
и на ней есть выбор атрибутов (цвет, размер и прочее)
после выбора атрибутов и нажатия кнопки “В корзину” товар оказывается в корзине и у него уже полная ссылка с атрибутами вида (например для 48 размера и зеленого цвета)
shop.ru/brend/tovart?size=48&color=green
В результате у Вас на сайте робот видит только каноническую страницу товара, а все варианты URL товара со всеми атрибутами видно только в личном кабинете после заказа.
Так вот – в файле sitemap.xml должны быть все варианты URL для Вашего товара – тогда роботы смогут все эти страницы проиндексировать. И они попадут в индекс для показа с поиска.
Ниже справка Google по организации URL в интернет-магазине
Официальный сайт правил находится здесь sitemap.org (версия на русском языке)
Общие требования к файлу sitemap.xml
ВАЖНО:
- название файла может быть любым и находиться он может в любой папке -> нужно указать его расположение с помощью файла robots.txt (который находится в корневой папке)
- файлов sitemap может быть несколько – основной индексный (где указана информация про остальные файлы) и отдельные файлы sitemap на отдельные разделы сайта
Теперь подробнее:
- формат файла может быть как xml (предпочтительнее) и txt – в любом случае это простой текстовый файл, который можно открыть “блокнотом”
- файл может содержать как список страниц так и список других файлов sitemap (индекс)
- файл может называться как угодно, вида mysitemap.xml (например, часть систем создания сайтов формируют свой файл sitemap и не дают возможности его изменить, можно сделать свой файл mysitemap.xml и “скормить” его роботам)
- ссылки в файле Sitemap должны указывать на страницы, находящиеся в том же каталоге (или его подкаталогах), что и сам файл Sitemap
- ссылки, указанные в файле Sitemap, должны использовать тот же протокол (например, HTTP), по которому доступен файл Sitemap
- символы в URL (& ‘ ” < >) должны быть заменены на мнемоники (& ' " > <)
- кириллические домены записываются в виде https://xn--80aswg.xn--p1ai/
Пример файла sitemap для данного сайта https://seotable.ru/sitemap.xml
This XML file does not appear to have any style information associated with it. The document tree is shown below. <urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9"> <!-- Generated by TSL plugin sitemap December 6, 2020 --> <!-- Version 1.3 --> <url> <loc>https://seotable.ru/</loc> <changefreq>daily</changefreq> <priority>1.0</priority> </url> <!-- home page --> <url> <loc>https://seotable.ru/2020/12/05/zashhishhaem-skript-php-ot-prjamogo-vyzova/</loc> <changefreq>weekly</changefreq> <priority>0.7</priority> </url> <url> <loc>https://seotable.ru/2020/11/17/kak-zarabotat-na-reklame-na-informacionnom-sajte/</loc> <changefreq>weekly</changefreq> <priority>0.7</priority> </url> .............и так далее
Комментарии делаются так же, как и в html – через <!– комментарий –>
Общие требования поисковых систем к файлу sitemap.xml
- Используйте кодировку UTF-8.
- Максимальное количество URL – 50 000.
- Ссылки в sitemap должны быть на том же домене, что и файл.
- Если файл слишком большой (см. ниже ограничения), разделите его на несколько и укажите их в файле индекса Sitemap.
- Ответ сервера при обращении к файлу должен быть 200 ОК.
- Указывайте только канонические адреса страниц (без GET-параметров и идентификаторов сессий).
| Требования ПС | Яндекса | |
| Максимальный размер | 10 МБ | 50 МБ |
| Шрифт | Поддержка кириллические URL | Поддерживает только цифры и латинские буквы |
| Индексация картинок | Не поддерживает | Используются тэги html <image:image> |
Читаем официальную справку Google по файлу sitemap.xml
https://developers.google.com/search/docs/advanced/sitemaps/build-sitemap?hl=ru
Для совместимости делают две карты сайта – обычную и для картинок:
- в robots,txt для бота Яндекс указывается только обычная карта
- в robots,txt для бота Google указывается оба файла sitemap
Распространённая ошибка: чтобы уменьшить требования к пропускной способности канала, используют архиватор gzip. Размер сайтмапа должен быть 50 МБ (10 МБ) до сжатия, а не после.
Файл sitemap можно проверить на валидность.
Для определения элементов и атрибутов, которые могут появляться в файлах Sitemap, используются следующие XML-схемы:
Для файлов Sitemap: http://www.sitemaps.org/schemas/sitemap/0.9/sitemap.xsd
Для файлов индекса Sitemap: http://www.sitemaps.org/schemas/sitemap/0.9/siteindex.xsd
Основные xml тэги для файла sitemap.xml
| Атрибут | Статус | Описание |
|---|---|---|
<urlset> | обязательный | Инкапсулирует этот файл и указывает стандарт текущего протокола. |
<url> | обязательный | Родительский тег для каждой записи URL-адреса. Остальные теги являются дочерними для этого тега. |
<loc> | обязательный | URL-адрес страницы. Этот URL-адрес должен начинаться с префикса (например, HTTP) и заканчиваться косой чертой, если Ваш веб-сервер требует этого. Длина этого значения не должна превышать 2048 символов. |
<lastmod> | необязательно | Дата последнего изменения файла. Эта дата должна быть в формате W3C Datetime. Этот формат позволяет при необходимости опустить сегмент времени и использовать формат ГГГГ-ММ-ДД. ВАЖНО: если ВЫ используете плагин для CMS / автогенератор – обязательно проверьте, какая именно дата там показана. У некоторых плагинов (в т.м. числе и хороших) выводится дата создания, а не дата последнего изменения. Т.е. если Вы создали пост 1 января, а потом вносили в него изменения 2,3 и так далее до 10 января =в файле sitemap.xml будет стоять дата 1 января….Не хорошо. Обратите внимание, что этот тег не имеет отношения к заголовку “If-Modified-Since (304)”, который может вернуть сервер, поэтому поисковые системы могут по-разному использовать информацию из этих двух источников. |
<changefreq> | необязательно | Вероятная частота изменения этой страницы. Это значение предоставляет общую информацию для поисковых систем и может не соответствовать точно частоте сканирования этой страницы. Допустимые значения:
Значение”всегда” должно использоваться для описания документов, которые изменяются при каждом доступе к этим документам. Значение “никогда” должно использоваться для описания архивных URL-адресов. Имейте в виду, что значение для этого тега рассматривается как подсказка, а не как команда. Несмотря на то, что сканеры поисковой системы учитывают эту информацию при принятии решений, они могут сканировать страницы с пометкой “ежечасно” менее часто, чем указано, а страницы с пометкой “ежегодно” – более часто, чем указано. Сканеры могут периодически сканировать страницы с пометкой “никогда”, чтобы отслеживать неожиданные изменения на этих страницах. |
<priority> | необязательно | Приоритетность URL относительно других URL на Вашем сайте. Допустимый диапазон значений — от 0,0 до 1,0. Это значение не влияет на процедуру сравнения Ваших страниц со страницами на других сайтах — оно только позволяет указать поисковым системам, какие страницы, по Вашему мнению, более важны для сканеров. Приоритет страницы по умолчанию — 0,5. Следует учитывать, что приоритет, который Вы назначили странице, не влияет на положение Ваших URL на страницах результатов той или иной поисковой системы. Поисковые системы используют эту информацию при обработке URL, которые относятся к одному и тому же сайту, поэтому можно использовать этот тег для увеличения вероятности присутствия в поисковом индексе Ваших самых важных страниц. Кроме того, следует учитывать, что назначение высокого приоритета всем URL на Вашем сайте не имеет смысла. Поскольку приоритетность – величина относительная, этот параметр используется для того, чтобы определить очередность обработки URL в пределах сайта. |
Индексный файл sitemap.xml
В случае большого сайта (для удобства и роботам и админу) можно создавать несколько файлов под разные разделы сайта и объединять их индексным файлом.
У нас на сайте могут быть страницы:
- информационные страницы
- записи (посты блога)
- страницы пагинации (когда часть постов расположена на 2-й, 3-й и других страницах)
- страницы авторов (все посты данного автора)
- страницы архивов
- страницы товаров
- и прочая…
Основные xml тэги для файла sitemap, который содержит информацию о других файлах sitemap (индекс):
| Атрибут | Статус | Описание |
|---|---|---|
<sitemapindex> | обязательный | Инкапсулирует информацию о всех файлах Sitemap в этом файле. |
<sitemap> | обязательный | Инкапсулирует информацию об отдельном файле Sitemap. |
<loc> | обязательный | Указывает местоположение файла Sitemap. Этим местоположением может быть файл Sitemap, файл Atom, файл RSS или простой текстовый файл. |
<lastmod> | необязательно | Указывает время изменения соответствующего файла Sitemap. Не соответствует времени изменения ни одной из страниц в этом файле Sitemap. Значение тега “lastmod” должно быть представлено в формате W3C Datetime. Предоставляя отметку времени последнего изменения, Вы позволяете сканерам поисковой системы извлекать только часть файлов Sitemap в индексе, то есть сканер может извлекать только те файлы Sitemap, которые были изменены после определенной даты. Этот механизм частичного извлечения файлов Sitemap позволяет быстро обнаруживать новые URL на сайтах больших размеров. |
Как создать файл sitemap?
Вариантов несколько:
– через внешнюю программу
– через плагин к CMS
– через встроенный генератор, например в CMS 1C-Bitrix создаются и индексные файл и файлы с указанием на страницы
Более того – URL это ссылка (адрес), а не файл.
Часть CMS/плагинов умеют создавать ссылку вида mydomen.ru/sitemap.xml при отсутствии самого файла на сервере (динамический sitemap).
Как показать файл sitemap.xml роботам?
ВАЖНО: без явного указания названия файла поисковые машины его не найдут, т.к. названия файла может быть любым
С учетом различных требований Яндекс и Google – создаем для сайта два отдельных файла yandexmap.xml и googlemap.xml – и отдельно указываем их в файле robots.txt
User-agent: Yandex Sitemap: https://seotable.ru/yandexmap.xml User-agent: Google Sitemap: https://seotable.ru/googlemap.xml
Можно вручную в вебмастере указать роботам, как называется и где находится файл sitemap.xml
Для Яндекс.Вебмастер (необходима регистрация)
Для Google.Webmaster (необходима регистрация)
ВАЖНО: в Google можно отправить информацию о файле sitemap.xml сайта с помощью HTTP-запроса, без регистрации и смс
https://www.google.com/ping?sitemap=https://example.com/sitemap.xml
Удобно.
К тому же это позволяет автоматизировать обновление файла sitemap.xml с помощью php при изменении текущего файла карты сайта.
 | Подпишитесь в VKontakte - нажмите кнопку | |
 | Подпишитесь в Telegram - нажмите кнопку | |
 | Наша группа ODNOKLASSNIKI |
Вы можете сохранить ссылку на эту страницу себе на компьютер в виде htm файла
Запрос на размещение Вашего рекламного поста (тема и email будут добавлены автоматически в письмо)
В Вашем браузере должна быть настроена обработка ссылок mailto
site_post@bk.ru
или просто скопируйте адрес e-mail
Почитать в разделе
ИНДЕКСИРОВАНИЕ САЙТА
Несмотря на все громкие заявления ПС = на первом месте для хорошей индексации идут ссылки, все остальное (юзабилити, глубина просмотра, объем сайта слабо влияет на индексацию). Т.е. если у Вас есть супер новый хороший сайт - без наличия ссылок на его страницы со стороны других сайтов нормальной индексации не будет (точнее нормального показа в выдаче). Яндекс все проиндексирует (но не покажет это все), Гугль проиндексирует порядка 30% (и тоже не все покажет).
Где можно взять ссылки для нового сайта?
- ручная работа на всех форумах, регистрация, ссылка, переписка с сисадминами других сайтов = в результате ссылка на Ваш сайт (это как раз то, что Вы видите бессмысленную рекламу, немного...(Читать полностью...)
- Всего статей в разделе: 8
- Показано статей в списке: 7
- Сортировка: название по алфавиту
Update поиска
Многие слышали про какие-то загадочные апдейты у Яндекса и у Гугль. Так сказать - иконы сеошников. Так что это? Ответ простой.
Все изменения по нашему сайту (число проиндексированных страниц, число ссылок и прочая) - мы видим пока только в Вебмастере :) Это никак не отражается на поисковой выдаче. С определенным периодом все эти изменения становятся доступны в выдаче - и посещаемость сайта резко меняется. Вот скан из Вебмастера Гугль - хорошо видна вертикальная линия с отметкой "Обновление". Это как раз все изменения по сайту были выложены для участия в поисковой выдаче. Все радуются. Скажем, после обновления можно увидеть результат работы сеошников над сайтом. Пока...(Читать полностью...)
Индексация и коды сервера
Индексация всех страниц сайта выполняется автоматически. Но если Вы хотите использовать сайт активно - то это Ваша головная боль, необходимо подправлять робота, что бы он все делал правильно (именно с Вашей точки зрения). 1. Все страницы для индексации должны быть указаны в файле Sitemap 2. Все запрещенные страницы для индексации должны быть указаны в файле robots.txt 3. Все страницы с конфиденциальной информацией должны быть спрятаны в отдельном каталоге, запрещены к индексации в файле robots.txt и каталог должен быть закрыт на уровне сервера логином и паролем. 4. Если Вы видите в вебмастере Яндекса страницы "Найдено по внутренней ссылке" - значит, Яндекс нашел...(Читать полностью...)
Кто такой User Agent?
User agent - кто это? Не кто - а что.
При обращении к Вашему сайту (точнее серверу, на котором находится Ваш сайт) - сервер получает много информации о запросе.
Это может быть запрос от: браузера по отображение сайта
заход поискового бота
запрос программы на проверку ответа сервера
запрос программы, которая маскируется под браузер И каждый такой запрос оставляет следы на сервере: ссылка, с которой был переход
IP-адрес
и тот самый User Agent - идентификатор того, кто обратился В целом поле с указанием user agent можно подделать, чем и пользуются спамеры и хакеры. Но официальные программы работают честно.
Данные посетителя (это текстовая инфомация) хранятся в...(Читать полностью...)
Поисковая машина Google
Поисковая машина Гугль для российского сегмента находится здесь www.google.ru
Для международного сегмента находится здесь www.google.com Search Google
Есть проблема - гугль все равно Вас переадресует на российский вариант, определив Ваше расположение. Если Вы хотите искать без привязки к территории, то нужно использовать вариант www.google.com/ncr (и Вы останетесь в домене .com)
Наиболее известные сервисы Гугль для вебмастеров:
Вебмастер - https://www.google.ru/webmasters/
Контекстная реклама - https://www.google.ru/adwords/
Анализ сайта на быстродействие - https://developers.google.com/speed/pagespeed/insights/
Основные ключевые слова Гугль для поиска: Ключевое слово
Как...(Читать полностью...)
Поисковая машина Яндекс
Поисковая машина Яндекс https://www.yandex.ru/ - для поиска Поиск Яндекс
Поисковые алгоритмы
Фильтры
Показ сайта в выдаче зависит от Индекса сайта (ранее у Яндекс был Тиц - тематический индекс цитирования).
Индекс сайта - это показатель того, насколько полезен ваш сайт для пользователей с точки зрения Яндекса.
Какие конкретно параметры влияют на X - является тайной Яндекса.
ВАЖНО!
Яндекс.Вебмастер достаточно сильный формалист (в отличии от Гугль). Смотрите все позиции, на которые робот ругается. Иначе не будет хороших позиций в выдаче.
Например:
- недостаточно фавикон разместить в корне сайта, гугль его видит, браузер показывает - а робот Яндекс не видит...хочет еще и явно код...(Читать полностью...)
Счетчики и их основные показатели
Счетчики, установленные на сайт, позволяют анализировать много параметров Вашего сайта.
Что такое счетчик: это скрипт, который фиксирует заход на сайт
поисковые машины просят устанавливать вызов скрипта как можно ранее (в секции <HEAD></HEAD>)
сейчас это практически не влияет на скорость загрузки страницы, т.к. это асинхронный код Основные показатели сайта от счетчиков
Базовые параметры: посещения - все заходы на сайт, включая повторные
визиты - по уникальным посетителям, т.е. для одного и того же визитера с двумя заходами будет 2 посещения и 1 визит
новые посетители - заходы на сайт новых визитеров (контроль по IP, кукам и прочем...(Читать полностью...)
Файл robots.txt
Основная задача этого файла - сообщать роботам поисковых систем, что можно и что нельзя индексировать на сайте.
Точнее - это рекомендация роботам. По факту поисковые машины все равно индексируют запрещенные страницы, но не показывают их в выдаче. Иногда происходит сбой и запрещенные страницы оказываются в выдаче. Если Вам необходимо действительно что-то полностью на сайте закрыть от роботов (и людей) - надо на уровне хостинга закрыть папку логином и паролем. Также записи в этом файле используются для удаления страниц из индекса Гугль. Гугль (в отличии от Яндекса) удаляет страницы из индекса при наличии двух условий: - запрос на удаление страницы - страница должна быть...(Читать полностью...)
