Галлюцинация нейросети

Магазин «Лесной уголок» продаёт садовый инструмент. На вопрос «где купить секатор в Казани» DeepSeek без поиска отвечает, что у магазина есть пункт самовывоза на улице Баумана. Такого пункта нет и не было. Покупатель едет в никуда, потом пишет злой отзыв. Условный случай, но схема реальная, и обычная метрика видимости его не заметит: бренд упомянут, значит вроде бы успех. Это галлюцинация: ответ языковой модели с уверенно сформулированным, но неверным или выдуманным фактом. Бренд рискует получить несуществующую акцию, неправильный адрес, чужой товар в ассортименте или сообщение, что магазин закрылся.

Откуда берутся выдумки

Модель предсказывает правдоподобное продолжение текста, а не сверяется с базой фактов. Исследователи OpenAI в работе «Why Language Models Hallucinate» (Kalai и соавторы, 4 сентября 2025) добавляют ещё одну причину: тесты награждают угадывание и не награждают ответ «не знаю», поэтому модели учатся отвечать даже при неуверенности. В пояснении компании есть пример: на вопрос о дне рождения человека угадывание даёт шанс 1 из 365, а честный отказ гарантированно даёт ноль.

У малоизвестных брендов к этому добавляется нехватка материалов. Чем меньше текстов о вас в обучающих данных и в сети, тем больше пустот модель заполняет домыслами.

Как это выглядит для бренда

Похожие названия сливаются: сущность бренда смешивается с однофамильцем или старым названием. Модель без поиска повторяет прошлогодние цены, адреса и ассортимент. Строго говоря, это не выдумка, но читателю всё равно. Бывают выдуманные источники: ссылка выглядит правдоподобно, а страницы по ней нет. И бывает негатив без основания, вроде «говорят, у них проблемы с возвратами», без единого подтверждения.

План проверки

1. Собрать список критичных фактов

   Адрес, график, условия доставки и возврата, ассортимент, цены. Нейросеть искажает их чаще всего.

   1 час
2. Проверить ответы по этим фактам

   Задать несколько вопросов в разных формулировках и сравнить с реальностью по каждой нейросети отдельно.

   полдня
3. Дать ей верные данные там, где она ищет

   Страница «О компании» с контактами, разметка Schema.org, карточки в справочниках, одинаковые сведения на всех площадках (консенсус источников).

   несколько дней
4. Повторить проверку после правок

   Одного ответа мало, нужна серия, как в обычном замере.

   раз в неделю

Исправить вымысел в самой модели напрямую нельзя. Влиять можно на то, что она находит и повторяет.