# =============================================================================
# Последнее обновление: 2026
# =============================================================================
# ------------------------------------------------------------------------------
# ГЛОБАЛЬНЫЕ ПРАВИЛА (для всех ботов, кроме указанных отдельно)
# ------------------------------------------------------------------------------
User-Agent: *
# === БЛОКИРОВКА ТЕХНИЧЕСКИХ И АДМИНИСТРАТИВНЫХ РАЗДЕЛОВ ===
# Эти пути не несут ценности для поиска и должны быть закрыты всегда
Disallow: /bitrix/
Disallow: /bitrix/panel/
Disallow: /local/
Disallow: /personal/
Disallow: /api/*
Disallow: /cgi-bin/
Disallow: /test*
Disallow: /404.php
Disallow: /auth.php
Disallow: /auth/
# === БЛОКИРОВКА ВНУТРЕННИХ ФУНКЦИЙ САЙТА ===
# Формы, заказы, фильтры — не для индексации
Disallow: */apply/*
Disallow: */filter/*
Disallow: */form/?name=
Disallow: */order/
Disallow: /*?form_id=
Disallow: /*&form_id=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*?alfaction=
Disallow: /*?arrFilter=
Disallow: /*?set_filter=
Disallow: /*?set_filter*
Disallow: /*&set_filter=
Disallow: /*set_filter*
Disallow: /*&set_filter*
# === БЛОКИРОВКА ПАРАМЕТРОВ АВТОРИЗАЦИИ И СЕССИЙ ===
Disallow: /*?auth=
Disallow: /*&auth=
Disallow: /*auth=
Disallow: /*?login=
Disallow: /*?logout=
Disallow: /*?register=
Disallow: /*?forgot_password=
Disallow: /*?change_password=
Disallow: /*?back_url=
Disallow: /*?back_url_admin*
Disallow: /*back_url=
Disallow: /*back_url_admin*
# === БЛОКИРОВКА ПАРАМЕТРОВ КЕШИРОВАНИЯ И ОТЛАДКИ БИТРИКС ===
# Не влияют на контент, только на техническую отладку
Disallow: */?_ym_debug
Disallow: /*?bitrix_*=
Disallow: /*bitrix_*=
Disallow: /*?CLEAR_CACHE=
Disallow: /*?clear_cache=
Disallow: /*?clear_cache_session=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*?bitrix_include_areas=
Disallow: /*bitrix_include_areas=
Disallow: /*?show_include_exec_time=
Disallow: /*?show_page_exec_time=
Disallow: /*?show_sql_stat=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
# === БЛОКИРОВКА ПАРАМЕТРОВ МАРКЕТИНГА И ТРЕКИНГА ===
# Не меняют контент, только отслеживают источники
Disallow: /*?utm*=
Disallow: /*&utm*=
Disallow: /*utm*=
Disallow: /*?gclid*
Disallow: /*gclid*
Disallow: /*?yclid*
Disallow: /*yclid*
Disallow: /*?ymclid*
Disallow: /*ymclid*
Disallow: /*?_r=*
Disallow: /*?source=*
Disallow: /*source=*
Disallow: /*?placement=*
Disallow: /*placement=*
Disallow: /*?gtm_debug=*
Disallow: /*gtm_debug=*
# === БЛОКИРОВКА ПАРАМЕТРОВ ПЕЧАТИ, ПРЕДПРОСМОТРА, ЭКСПОРТА ===
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*?preview=
Disallow: /*&preview=
Disallow: /*preview=
Disallow: /*?print_course=
Disallow: /*print_course=
Disallow: /*?download
Disallow: /*download
# === БЛОКИРОВКА ПАРАМЕТРОВ СОРТИРОВКИ И ОТОБРАЖЕНИЯ (ОПЦИОНАЛЬНО) ===
# ⚠️ ВАЖНО: Если вы хотите, чтобы боты видели canonical-теги на страницах
# с параметрами сортировки/фильтрации — РАСКОММЕНТИРУЙТЕ эти правила.
# Если используете noindex через (как в вашем коде) — можно оставить как есть.
#
# Блокируем, чтобы не тратить краулинговый бюджет на дубли с сортировкой
#Disallow: /*?sort*=
Disallow: /*?sort_by=
Disallow: /*?sort_order=*
Disallow: /*?sort_dir=
Disallow: /*?sort_ord=
Disallow: /*?SORT=
Disallow: /*SORT=
Disallow: /*?ORDER_BY
Disallow: /*ORDER_BY
Disallow: /*?display=
Disallow: /*?list_style=
Disallow: /*?view=
Disallow: /*?VIEW*=
Disallow: /*?showBy=
Disallow: /*showBy=
Disallow: /*?SHOWBY=
Disallow: /*SHOWBY=
Disallow: /*?products_on_page=
Disallow: /*?SIZE=*
#Disallow: /*?SIZEN_1=
Disallow: /*SIZE=*
# === БЛОКИРОВКА ПАРАМЕТРОВ ФИЛЬТРАЦИИ ТОВАРОВ ===
# Фильтры создают тысячи дублей — блокируем для экономии краулингового бюджета
Disallow: /*?FILTER*=
Disallow: /*?arrFilter=
Disallow: /*?PROPERTY=*
Disallow: /*PROPERTY=*
Disallow: /*?BRAND=
Disallow: /*BRAND=
Disallow: /*?IN_STOCK=*
Disallow: /*IN_STOCK=*
Disallow: /*?max_price=
Disallow: /*?min_price=
Disallow: /*?category_id=
Disallow: /*?SECTION_ID=
Disallow: /*?SECTION_CODE=*
Disallow: /*?SECTION[*]=
Disallow: /*SECTION_CODE=*
Disallow: /*SECTION_ID=
# === БЛОКИРОВКА ВНУТРЕННИХ ПАРАМЕТРОВ БИТРИКС ===
Disallow: /*?IBLOCK_ID=*
Disallow: /*IBLOCK_ID=*
Disallow: /*?ELEMENT_ID=
Disallow: /*ELEMENT_ID=*
Disallow: /*?SECTION_ID=
Disallow: /*?RESULT_ID=*
Disallow: /*RESULT_ID=*
Disallow: /*?SPHRASE_ID=
Disallow: /*?sphrase_id
Disallow: /*SPHRASE_ID=
Disallow: /*sphrase_id
Disallow: /*?TYPE=
Disallow: /*?type=
Disallow: /*TYPE=
Disallow: /*type=
Disallow: /*?B_ORDER=
Disallow: /*B_ORDER=
Disallow: /*?r1=
Disallow: /*r1=
Disallow: /*?option=*
Disallow: /*option=*
Disallow: /*?position=*
Disallow: /*position=*
Disallow: /*?block=*
Disallow: /*block=*
Disallow: /*?how=*
Disallow: /*how=*
Disallow: /*?added=*
Disallow: /*added=*
Disallow: /*?setreg=
Disallow: /*setreg=
# === БЛОКИРОВКА ПАРАМЕТРОВ ПОИСКА И НАВИГАЦИИ ===
Disallow: /?search=
Disallow: /*?search=
Disallow: /*?q=
Disallow: /*?name=
Disallow: /*?item_id=
Disallow: /*?product_id=
Disallow: /*?oid=
Disallow: /*?p=
Disallow: /*?page=
Disallow: /*&page=
#Disallow: /*?PAGEN_1=
#Disallow: /*?PAGEN_2=
#Disallow: /*?PAGEN_3=
#Disallow: /*?PAGEN_4=
#Disallow: /*?PAGEN_5=
Disallow: /*?SHOWALL_1=
Disallow: /*?SHOWALL_2=
Disallow: /*SHOWALL=
Disallow: /*SHOW_ALL=
Disallow: /*?SHOWALL=
Disallow: /*?SHOW_ALL=
# === БЛОКИРОВКА ПРОЧИХ ТЕХНИЧЕСКИХ ПАРАМЕТРОВ ===
Disallow: /*?a=*
Disallow: /*?adv=*
Disallow: /*?amp*
Disallow: /*?by*
Disallow: /*?ei=
Disallow: /*?id=*
Disallow: /*?ORDER_ID=
Disallow: /*?pn_pr=
Disallow: /*?tab=
Disallow: /*?tags=
Disallow: /*?year=
Disallow: /*?from*
Disallow: /*&from*
Disallow: /*?new=
Disallow: /*?edit=
Disallow: /*?path=
Disallow: /*?route=
Disallow: /*?RID*
Disallow: /*?tag
Disallow: /*?tid*
Disallow: /*?view_result=
Disallow: /*&view_result=
Disallow: /*?showElements=
Disallow: /*showElements*
Disallow: /*?ADD_TO_COMPARE_LIST
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*index.php$
# ------------------------------------------------------------------------------
# РАЗРЕШЁННЫЕ РЕСУРСЫ (для корректной работы сайта)
# ------------------------------------------------------------------------------
Allow: /bitrix/components/
Allow: /bitrix/fonts/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/*.js
Allow: /bitrix/*.css
Allow: /local/*.js
Allow: /local/*.css
Allow: /local/*.jpg
Allow: /local/*.jpeg
Allow: /local/*.png
Allow: /local/*.gif
Allow: /upload/*.pdf
Allow: /upload/*.png
Allow: /upload/*.jpg
Allow: /upload/*.jpeg
Allow: /upload/*.gif
Allow: /upload/*.webp
Allow: /upload/*.mp4
# Карта сайта
Sitemap: https://www.ntcpik.com/sitemap.xml
# =============================================================================
# ПРАВИЛА ДЛЯ ЯНДЕКС (с поддержкой Clean-param)
# =============================================================================
User-Agent: Yandex
# Повторяем основные блокировки из секции * (Яндекс обрабатывает их отдельно)
Disallow: /bitrix/
Disallow: /bitrix/panel/
Disallow: /local/
Disallow: /personal/
Disallow: /api/*
Disallow: /cgi-bin/
Disallow: /test*
Disallow: /404.php
Disallow: /auth.php
Disallow: /auth/
Disallow: */apply/*
Disallow: */filter/*
Disallow: */order/
Disallow: /*?utm*=
Disallow: /*?gclid*
Disallow: /*?yclid*
Disallow: /*?ymclid*
Disallow: /*?print=
Disallow: /*?preview=
# ⚠️ ПАРАМЕТРЫ ПАГИНАЦИИ И ФИЛЬТРОВ ДЛЯ ЯНДЕКС
# === Clean-param для Яндекса ===
# Формат: Clean-param: param1¶m2¶m3 /path
# Указывает Яндексу, какие параметры можно игнорировать при индексации
#
# Группа 1: Технические параметры Битрикс
Clean-param: show_include_exec_time&show_page_exec_time&show_sql_stat&bitrix_include_areas&clear_cache&clear_cache_session&ADD_TO_COMPARE_LIST&ORDER_BY&print&list_style&sort&sort_by&set_filter&arrFilter /
# Группа 2: Авторизация, сессии, маркетинг
Clean-param: order&print_course&action®ister&forgot_password&change_password&login&logout&auth&backurl&back_url&BACKURL&BACK_URL&back_url_admin&utm_source&download&setreg&sphrase_id&type&product_id /
# Группа 3: Отображение, пагинация, фильтры
Clean-param: display&view_mode&view&min_price&max_price&page&path&route&products_on_page&new&edit&PAGEN_1&PAGEN_2&PAGEN_3&PAGEN_4&PAGEN_5&PAGEN_6&PAGEN_7&preview&SHOWALL&SHOW_ALL&SHOWBY&SPHRASE_ID&TYPE&utm&VIEW&SORT_TO&SORT_FIELD&alfaction /
# Группа 4: Внутренние идентификаторы и параметры
Clean-param: oid&name&form_id&bxajaxid&resize_cache&linerow&sort_ord&sort_dir&category_id&item_id&pn_pr&tab&year&SHOWALL_2&SIZEN_1&search&etext /
# Группа 5: Трекинг и внешние параметры
Clean-param: gclid&yclid&ymclid&RID&bitrix_&tag&tid&FILTER&ei&p&q&tags&B_ORDER&BRAND&CLEAR_CACHE&SECTION_ID§ion_id&SORT&sort_order&_r&option&adv&source&placement>m_debug&callibri&position&added&SIZE&showBy&from&block&r1&_ym_debug&by&id&a&IBLOCK_ID&RESULT_ID&PROPERTY&IN_STOCK&SECTION_CODE§ion_code /
Host: https://www.ntcpik.com
# =============================================================================
# БЛОКИРОВКА СПАМ-БОТОВ, СКРАПЕРОВ И АГРЕССИВНЫХ КРАУЛЕРОВ
# =============================================================================
# Эти боты не приносят трафика, только нагружают сервер
# Можно расширять список при необходимости
User-Agent: SemrushBot
Disallow: /
User-Agent: MJ12bot
Disallow: /
User-Agent: AhrefsBot
Disallow: /
User-Agent: Ahrefs
Disallow: /
User-Agent: semrush
Disallow: /
User-Agent: DotBot
Disallow: /
User-Agent: CCBot
Disallow: /
User-Agent: GPTBot
Disallow: /
User-Agent: ChatGPT-User
Disallow: /
#User-Agent: Google-Extended
#Disallow: /
User-Agent: Omgilibot
Disallow: /
User-Agent: FacebookBot
Disallow: /
User-Agent: Baiduspider
Disallow: /
User-Agent: SeznamBot
Disallow: /
User-Agent: MegaIndex.ru
Disallow: /
User-Agent: MegaIndex
Disallow: /
User-Agent: Exabot
Disallow: /
User-Agent: SerpstatBot
Disallow: /
User-Agent: Serpstat
Disallow: /
User-Agent: SeekportBot
Disallow: /
User-Agent: SISTRIX
Disallow: /
User-Agent: LinkpadBot
Disallow: /
User-Agent: DataForSeoBot
Disallow: /
User-Agent: VelenPublicWebCrawler
Disallow: /
User-Agent: Cocolyzebot
Disallow: /
User-Agent: ZoominfoBot
Disallow: /
User-Agent: CensysInspect
Disallow: /
User-Agent: ImagesiftBot
Disallow: /
#User-Agent: PerplexityBot
#Disallow: /
#User-Agent: YouBot
#Disallow: /
# === Устаревшие/небезопасные агенты ===
User-Agent: ia_archiver
Disallow: /
User-Agent: libwww-perl
Disallow: /
User-Agent: Wget
Disallow: /
User-Agent: HTTrack
Disallow: /
User-Agent: HTTrack 3.0
Disallow: /
User-Agent: WebCopier
Disallow: /
User-Agent: WebZIP
Disallow: /
User-Agent: EmailCollector
Disallow: /
User-Agent: EmailSiphon
Disallow: /
User-Agent: Python-urllib
Disallow: /
User-Agent: Scrapy
Disallow: /
User-Agent: Nutch
Disallow: /
User-Agent: crawler
Disallow: /