Google настоятельно не рекомендует использовать robots.txt для блокировки индексации URL с параметрами. Об этом заявил сотрудник поиска Джон Мюллер, отвечая на вопрос одного из вебмастеров в Twitter. По словам Мюллера, если используется такой способ блокировки, то Google не может каноникализировать...
На днях сотрудники Google Гэри Илш и Джон Мюллер опубликовали несколько твитов на тему индексации файлов robots.txt и Sitemap. Обсуждение начал Гэри Илш, который заявил, что файл robots.txt может индексироваться и ранжироваться в результатах поиска Google. По его словам, «c...
Google начал рассылать через Search Console оповещения тем вебмастерам, которые добавили директиву noindex в robots.txt. В них говорится, что эти записи должны быть удалены, поскольку 1 сентября поддержка noindex в этом файле будет полностью прекращена. «Google обнаружил, что файл robots.txt...
В рамках работы по переводу Robots Exclusion Protocol (REP) в разряд официальных интернет-стандартов Google обновил свою документацию по robots.txt. Все изменения перечислены в новом разделе «What changed» на странице Robots.txt Specifications. В их числе значатся следующие: Удалён раздел «Язык требований»;...
Google уже многие годы говорит вебмастерам, что не поддерживает директиву noindex в файле robots.txt. Однако некоторые SEO-специалисты по-прежнему её используют. Поэтому в компании задумались над тем, чтобы полностью отказаться от этой директивы и сделать так, чтобы она не работала. Об...
«Да я этот проект уже год веду! Все, что можно уже в нем сделал. Все в нем знаю!» – такими заявлениями любят бросаться SEO-специалисты, особенно начинающие. В действительности же у любого специалиста со временем взгляд на проект замыливается, да так,...