Методика

Как мы снимаем ответы нейросетей

Что и чем измеряется, чего мы не видим и как проверяем точность. Обновлено 22.10.2026.

Мы измеряем, как часто нейросеть называет ваш бренд в ответах на вопросы покупателей. Ответ нейросети случаен, поэтому один ответ ничего не доказывает. Мы задаём каждый вопрос несколько раз, считаем долю и проверяем, значимо ли изменение. Ниже: что и как снимается, чего мы не видим и как проверяем точность.

Что и как снимается

НейросетьСпособРежим и регион
ChatGPTОфициальный API OpenAIМодель бесплатного ChatGPT (GPT-6 Luna) с веб-поиском, до 4 поисков на ответ, как в приложении. Место поиска: страна и город проекта (параметр user_location).
PerplexityОфициальный APIПоиск встроен в каждый ответ, несколько шагов поиска, как в приложении. Место поиска: страна и город проекта.
DeepSeek (с поиском)Официальный API + выдача ЯндексаКак приложение DeepSeek с включённой кнопкой «Поиск»: модель сама формулирует запросы, мы выполняем их в Яндексе (до 2 поисков на ответ) и отдаём ей найденное. Регион поиска: город проекта, иначе страна. Есть источники; результат реагирует на правки сайта и публикации.
DeepSeek (из памяти)Официальный APIКак приложение DeepSeek с выключенной кнопкой «Поиск» (так по умолчанию): из знаний модели, без интернета и источников. Показывает, знает ли нейросеть бренд «сама по себе». Меняется редко, с выходом новой версии. Место на ответ не влияет.
GigaChatОфициальный API СбераМодель GigaChat 3 Ultra, без веб-поиска, из знаний модели.
Google AI ModeРеальный ответ Google AI ModeОтдельный режим диалога в Google (не блок AI Overviews). Страна и город проекта учитываются, источники называются. Один запрос на ответ.
GeminiРеальный ответ GeminiНейросеть Google как в бесплатном приложении (Gemini 3.6 Flash). Региона нет: страна и город проекта не влияют.
YandexGPT (опция)Официальный API Яндекса (Yandex Search API, генеративный ответ)Генеративный поиск Яндекса: YandexGPT переформулирует вопрос в поисковые запросы, мы получаем результаты поиска по индексу Яндекса, и модели Яндекса пишут ответ со ссылками. Это не чат «Алиса» и не блок «Нейро» в выдаче: Яндекс не заявляет, что ответы API с ними совпадают, поэтому мы не называем это Алисой. Региона и истории пользователя нет. Иногда модель отказывается отвечать: такой запрос считается ответом без бренда и отмечается в кабинете.
Google AI OverviewsРеальная выдача GoogleМобильная версия, русский язык, страна и город проекта, без аккаунта. Google показывает обзор не всегда: «нет обзора» перепроверяем несколько раз.

Что мы считаем в каждом ответе: бренд и сайт

В каждом сохранённом ответе мы проверяем два разных вопроса. Назван ли бренд: по вашим правилам упоминания (название, место в ответе, соседство с конкурентами, негатив). Дошёл ли до ответа сайт: бренд могут назвать без ссылки, а ссылку дать без названия, поэтому это отдельные показатели.

  • Сайт в тексте ответа: адрес сайта назван в самом тексте.
  • Сайт в сносках: нейросеть сослалась на страницу сайта в тексте ответа. Это самое ценное присутствие: читатель видит ссылку рядом с утверждением.
  • Сайт только в источниках: страница есть в списке найденных источников, но ответ на неё не ссылается.

Сноски мы определяем по номерам в тексте ([3], [web:3]) у Perplexity и YandexGPT, по цитатам ответа у ChatGPT и по ссылкам, на которые опираются блоки текста, у Google. Там, где в ответе сносок нет (DeepSeek с поиском), «в сносках» не считается, об этом в кабинете написано «н/д». Все три уровня показаны по замерам и по группам запросов проекта. Как читать видимость сайта.

Режим съёма — это нейросеть и способ, которым мы её спрашиваем. Режимов больше, чем нейросетей: DeepSeek снимается в двух режимах, потому что люди пользуются им и с поиском, и без; у Google два режима (AI Overviews и AI Mode). Режимы не заменяют друг друга: в пилоте на 30 вопросах магазина электроники бренд назывался одинаково часто (95% и 93%), но наборы названных магазинов совпали лишь на треть.

Источник каждого ответа указан в кабинете: «API» или «реальная выдача». На странице ответа видна и версия модели. Когда разработчик меняет модель, мы ставим на графике отметку: скачок после неё может объясняться новой моделью, а не вашими действиями.

Откуда «ищет» нейросеть: гео в замерах

Нейросеть с веб-поиском отвечает человеку «из какого-то места». Приложение определяет его само: по IP-адресу, аккаунту, истории. Программный интерфейс (API) этого не знает, пока ему не сказать. Если место не передать, поиск идёт «как из США»: ChatGPT предлагает американские магазины, ссылается на американские сайты, а иногда сначала спрашивает, в какой вы стране. Для российского бренда такой замер почти бесполезен: нейросеть отвечает не на тот вопрос.

Поэтому у проекта есть страна и необязательный город, и мы передаём их ChatGPT, Perplexity, Google AI Overviews и поиску DeepSeek в Яндексе (у ответа YandexGPT региона нет). Ниже: чем отличаются замеры с гео и без него, на реальных ответах. Мы проверили это на 30 вопросах покупателей, по 2 прогона на условие (60 ответов), 14 октября 2026.

Что получаем в обоих случаях

Без геоСтрана (RU)Страна и город (Москва)
Откуда «ищет» нейросетьНе указано, по умолчанию СШАРоссияМосква
Российские сайты среди источников5%80%81%
Ответов про США44 из 601 из 600 из 60
Ответов с российскими магазинами из нашего списка13%80%77%
Ответов, где ChatGPT вообще не искал в интернете28 из 6018 из 609 из 60
Ответов, начатых с уточняющего вопроса22 из 6015 из 607 из 60
Что показывает замерКак бренд выглядит для человека из СШАКак бренд выглядит для человека из РоссииТо же, плюс локальные магазины и пункты
Доля российских сайтов среди источников ChatGPT, %
Без гео5%
Страна RU80%
Страна и город Москва81%
Пилот LLMetr, 14.10.2026: 30 вопросов о покупках, 2 прогона, ChatGPT через официальный API, поиск включён.
Ответов ChatGPT про США, из 60
Без гео44
Страна RU1
Страна и город Москва0
Ответ считался «про США», если в нём названы США, американские штаты или американские магазины. Оценка по ключевым словам.

Примеры: один и тот же вопрос

«Где купить джинсы онлайн по хорошей цене?»
Без гео

«Где искать джинсы онлайн по хорошей цене (США): Levi’s — официальный сайт регулярно проводит распродажи…»

levi.com · pricehacker.com
Страна и город

«Где искать недорогие джинсы онлайн в России: Wildberries — огромный выбор и частые распродажи; Ozon; Lamoda…»

wildberries.ru · ozon.ru · lamoda.ru
«В каких магазинах продаются кофемашины с большим выбором?»
Без гео

«Рекомендованные магазины: Whole Latte Love — большой ассортимент эспрессо-машин; Seattle Coffee Gear…»

wholelattelove.com · seattlecoffeegear.com · williams-sonoma.com
Страна и город

«Где чаще всего большой выбор кофемашин, и примеры в Москве: М.Видео / Эльдорадо; Технопарк…»

mvideoeldorado.ru · technopark.ru · delonghi.ru
«В каком магазине лучше брать наушники, чтобы не нарваться на подделку?»
Без гео

«…список надёжных мест (если вы в США; если нет — скажите страну, дам локальные варианты)». Источников нет.

ответ без ссылок
Страна и город

«…покупайте у официальных дилеров, в крупных сетях с сервисом или в авторизованных магазинах» со ссылками на российские страницы.

audio-technica.ru · mvideo.ru · rbc.ru

Цитаты из ответов ChatGPT (API) в нашем пилоте 14 октября, сокращены. Номер прогона и вопрос одинаковые, различалось только место поиска.

Как это выглядит у сборщиков интерфейса ChatGPT

Мы проверили и сторонний сервис, который снимает ответы интерфейса ChatGPT. Параметров места у него нет: ответ приходит «из США». На вопрос о настольных играх для компании он отвечает: «если вы находитесь в районе Феникса, Аризона, есть несколько хороших вариантов» и называет магазины Phoenix с адресами и телефонами. Из 60 ответов этого сервиса 52 были про США, и российские компании из нашего списка попали лишь в 3% ответов.

Ответ ChatGPT без гео: магазины настольных игр в Финиксе, Аризона, с адресами и телефонами
Ответ ChatGPT на русскоязычный вопрос «Где купить настольные игры для компании?», полученный через сторонний сервис без параметров места. Нейросеть решила, что человек находится в Финиксе, штат Аризона.

Как мы с этим работаем

  • Страна обязательна, город нет. В настройках проекта выбирается страна из списка ISO 3166-1 (по умолчанию Россия). Город можно не указывать: тогда поиск идёт по всей стране. Это правильно для сайтов без привязки к месту: новостные издания, порталы, сервисы, интернет-магазины с доставкой по всей стране. Для магазина с точками или услуги в одном городе город стоит указать.
  • Город понимаем по-русски и по-английски. «Казань», «г. Санкт-Петербург», «СПб» или «Almaty» превращаются в английское название города, область и часовой пояс из справочника GeoNames, и в таком виде уходят нейросети. Города нет в справочнике: передаём как введён и предупреждаем.
  • У каждого промпта можно задать свой город. Он важнее города проекта. Так в одном проекте можно снять вопрос «где купить» отдельно для Москвы и Казани. Другая страна означает другой проект.
  • Что получает каждая нейросеть. ChatGPT: страна, город, область, часовой пояс (параметр user_location веб-поиска, документация OpenAI). Perplexity: страна, город, область (документация). Google: страна и локация города. DeepSeek (с поиском): регион поиска Яндекса по городу проекта, иначе по стране, а городу и стране сообщаем и самой модели. DeepSeek без поиска и GigaChat: место на ответ не влияет, мы его не передаём.
  • Смена места фиксируется. При смене страны или города мы пишем запись в журнал проекта и ставим пометку на графике: источники и упоминания зависят от места, и скачок не должен выглядеть результатом ваших действий.
  • Это приближение, а не копия. Приложение определяет место по IP и аккаунту, мы задаём его явно. Результат близок к тому, что видит человек из нужного города, но не идентичен.

Подробности и настройка: справка «Гео замеров». Справочники: страны ISO 3166-1 и Unicode CLDR, города GeoNames (CC BY 4.0).

Чего мы не видим

  • Чат «Алиса» и блок «Нейро» в выдаче Яндекса: мы их не снимаем. Опция YandexGPT показывает, как отвечает генеративный поиск Яндекса через API; совпадение с чатом и блоком Яндекс не обещает.
  • Подзапросы, которые нейросеть строит внутри себя, и персонализацию: историю, память и настройки конкретного человека.

Как отличить честный замер Алисы

Алиса AI — самый частый вопрос к сервисам мониторинга. Яндекс не даёт одного официального способа получить ответ чата Алисы, поэтому у разных сервисов «данные из Алисы» могут означать разное. Вот что известно из документации Яндекса:

  • Через API доступны модели Alice AI LLM и Alice AI LLM Flash. Alice AI Omni и Alice AI VLM, на которых работает чат в приложении и на alice.yandex.ru, через API не предлагаются.
  • Чат отвечает с поиском. Модель строит запросы, поиск Яндекса возвращает документы, затем пишется ответ. Модель, вызванная по API без инструмента поиска, отвечает из своих знаний: это не то, что видит человек в чате.
  • Быстрый ответ в выдаче строит отдельная модель (Alice AI Search), а не модель чата.
  • Регион. Инструмент поиска в API принимает регион Яндекса, а метод генеративного поиска Yandex Search API региона не принимает.

Поэтому любому сервису, который заявляет «данные из Алисы», стоит задать пять вопросов. Какой продукт замеряется: чат, быстрый ответ в выдаче или API? Включён ли веб-поиск? Учитывается ли регион? Какая модель отвечает (Omni по API получить нельзя)? Видны ли в ответе источники? Мы отвечаем так: опция YandexGPT снимает ответ генеративного поиска Яндекса через API, с источниками и без региона, и мы не называем его Алисой. Ответ чата Алисы мы не снимаем и не подменяем его другими данными. Источники: описание семейства Alice AI, список моделей AI Studio, инструмент веб-поиска AI Studio, разбор быстрого ответа на Хабре.

Ближайшие планы

  • Ведётся интеграция других LLM, чтобы охват соответствовал тому, где ваши покупатели действительно задают вопросы.
  • О появлении новых нейросетей мы сообщаем в кабинете и по почте; цифры по ним начинают считаться только с даты подключения, старые замеры не меняются.

Как мы перепроверяем ответы

Нейросеть может ответить плохо, не ответить вовсе или ответить по-разному на один вопрос. Поэтому перепроверка встроена в сам замер и заканчивается до того, как замер получает статус «готово»: вы видите один итог, а не цифры, которые потом меняются.

  1. Перед сбором. Каждую выбранную нейросеть проверяем коротким запросом, причём несколько раундов подряд и с повторами при сбое. Если после всех попыток одна из них не отвечает, замер не стартует: неполная картина хуже, чем её отсутствие. Подробнее в справке.
  2. Во время сбора. Временные сбои повторяются с паузами, плохие ответы (слишком короткие, отказы, встречные вопросы) запрашиваются заново, недособранное добирается вторым проходом.
  3. Нестабильные вопросы. Если по паре «вопрос × нейросеть» результат менялся в прошлых замерах, повторы этого вопроса идут сразу и параллельно, а у вопросов с одним прогоном добавляется второй.
  4. Выбросы. Ответ, резко выбивающийся из ответов других нейросетей на тот же вопрос (другой язык, подозрительно короткий, не по теме), в статистику не попадает: вместо него запрашивается новый.
  5. Разброс. Рядом с небрендовой видимостью мы показываем «±»: 95% интервал, посчитанный по самим ответам. Если изменение меньше интервала, это, скорее всего, шум.

Все повторы идут одновременно с остальными запросами, поэтому замер не растягивается. Доля дополнительных запросов ограничена, а повторы и замены лимит замеров не тратят.

Каким цифрам можно верить

ПоказательНадёжностьПочему
Доля ответов с упоминанием брендаВысокаяСчитается по многим вопросам и повторам; значимость изменений проверяется.
«±» интервал видимостиВысокаяСчитается повторной выборкой вопросов по самим ответам замера; показывает разброс, а не гарантирует истинное значение.
Доля голоса, список конкурентовСредняяСписок брендов в одном ответе нестабилен у любого способа; считаем по выборке.
Позиция в спискеСредняяЗависит от формата ответа конкретной нейросети.
Источники и площадкиChatGPT: ниже, Perplexity: средняя, Google AI Overviews: высокаяУ ChatGPT в нашем режиме мало поисковых вызовов, поэтому источники считаем по всем нейросетям сразу и показываем частоту.
Негатив и тональностьСредняяКлассификация фрагмента вокруг бренда; любую оценку можно поправить вручную.

«Но API показывает не то, что видит человек»

Отчасти это правда, и мы не прячем это ограничение. Что мы отвечаем:

  • Идеального способа нет. Приложение тоже даёт разные ответы на один вопрос и разным людям. Поэтому мы опираемся на повторы и выборку, а не на единичный кадр.
  • Нас интересует, назван ли бренд. Эту метрику длина ответа и число перечисленных брендов затрагивают слабо.
  • Воспроизводимость. Официальный API не ломается из-за изменений вёрстки приложения, и результаты замеров сопоставимы во времени.
  • Условия использования. Автоматизация интерфейсов обычно запрещена правилами сервисов; официальный API использовать можно.
  • Где API слабее, мы говорим об этом: источники у ChatGPT, реклама и карточки Алисы, регион.

Как мы проверяем точность

Каждый день команда проекта вручную сверяет случайные небрендовые вопросы с тем, что нейросеть отвечает человеку. За всё время проверено 148 ответов: совпали с реальным ответом 98%, не совпали 2%. Сводка по датам и нейросетям.

Ваши правки делают оценки точнее. Если автоматика ошиблась, вы исправляете её одним нажатием: «Это не негатив» или другая тональность в ответе. Правка сразу меняет цифры вашего проекта, а мы сверяем с такими правками слова-триггеры и оценку тональности и убираем те, что чаще всего ошибаются.

Общая статистика сервиса: успешно завершились 100% замеров, остановлены или завершились с ошибкой 0%.

  • Если замер собран неполно, кабинет показывает долю собранных ответов, а проблемные ответы исключаются из статистики.

Есть вопрос по методике или нужен технический документ для закупки? Напишите нам.