Никита АлимпиевNikAlimp

Галлюцинация

Hallucination

Галлюцинация — уверенный, но неверный ответ языковой модели: выдуманный факт, несуществующая ссылка или ошибка в цене, адресе, составе услуг.

Для бизнеса галлюцинации опасны, когда модель неправильно описывает компанию. Снизить риск помогают однозначные данные на сайте, микроразметка, согласованная информация на внешних площадках и регулярная проверка ответов нейросетей.

Откуда термин

Слово «галлюцинация» в машинном обучении сначала использовали для систем распознавания изображений и машинного перевода: модель «видела» то, чего нет во входных данных. Около 2018 года термин закрепился в генерации текста, а после выхода ChatGPT в 2022 году стал общеупотребительным. Причина галлюцинаций в устройстве языковых моделей: они предсказывают правдоподобный текст, а не сверяются с базой фактов. Если модель знает о предмете мало, она дополняет пробелы похожим на правду вымыслом.

Типичные галлюцинации о бизнесе

  • Неверные цены или услуги, которых у компании нет.
  • Устаревшие адреса, телефоны, имена руководителей.
  • Выдуманные отзывы, награды, клиенты.
  • Путаница с другой компанией с похожим названием.
  • Несуществующие ссылки на страницы сайта.

Почему модели ошибаются о компаниях

Чем меньше согласованной информации о бренде в интернете, тем выше риск. Если на сайте одни цены, в справочнике другие, а в старой статье третьи, модель может выбрать любые. Если данных почти нет, модель достроит ответ по аналогии с похожими компаниями.

Как снизить риск

  1. Публикуйте ключевые факты текстом: цены, услуги, адреса, график, команду.
  2. Добавьте микроразметку Organization, Service и FAQ.
  3. Обновите данные во всех справочниках и профилях.
  4. Сделайте llms.txt с кратким описанием компании.
  5. Раз в месяц спрашивайте нейросети о компании и фиксируйте ошибки.
  6. Найдите источник ошибки — устаревшую статью или карточку — и исправьте его.

Модель с поиском исправляется быстрее: она находит обновлённые страницы. Знания без поиска меняются только с выходом новых версий моделей.

GEO-аудит

Узнайте, что нейросети говорят о вашем бизнесе

Проверю ChatGPT, Алису AI, GigaChat, Perplexity и DeepSeek по запросам ваших клиентов. Покажу, кого советуют вместо вас и почему. Экспресс-проверка — бесплатно, полный аудит — от 9 900 ₽.

Или написать в Telegram

Удобнее голосом? Запишитесь на 30 минут в Zoom — разберём задачу и решим, с чего начать.