Галлюцинация — уверенный, но неверный ответ языковой модели: выдуманный факт, несуществующая ссылка или ошибка в цене, адресе, составе услуг.
Для бизнеса галлюцинации опасны, когда модель неправильно описывает компанию. Снизить риск помогают однозначные данные на сайте, микроразметка, согласованная информация на внешних площадках и регулярная проверка ответов нейросетей.
Откуда термин
Слово «галлюцинация» в машинном обучении сначала использовали для систем распознавания изображений и машинного перевода: модель «видела» то, чего нет во входных данных. Около 2018 года термин закрепился в генерации текста, а после выхода ChatGPT в 2022 году стал общеупотребительным. Причина галлюцинаций в устройстве языковых моделей: они предсказывают правдоподобный текст, а не сверяются с базой фактов. Если модель знает о предмете мало, она дополняет пробелы похожим на правду вымыслом.
Типичные галлюцинации о бизнесе
- Неверные цены или услуги, которых у компании нет.
- Устаревшие адреса, телефоны, имена руководителей.
- Выдуманные отзывы, награды, клиенты.
- Путаница с другой компанией с похожим названием.
- Несуществующие ссылки на страницы сайта.
Почему модели ошибаются о компаниях
Чем меньше согласованной информации о бренде в интернете, тем выше риск. Если на сайте одни цены, в справочнике другие, а в старой статье третьи, модель может выбрать любые. Если данных почти нет, модель достроит ответ по аналогии с похожими компаниями.
Как снизить риск
- Публикуйте ключевые факты текстом: цены, услуги, адреса, график, команду.
- Добавьте микроразметку Organization, Service и FAQ.
- Обновите данные во всех справочниках и профилях.
- Сделайте llms.txt с кратким описанием компании.
- Раз в месяц спрашивайте нейросети о компании и фиксируйте ошибки.
- Найдите источник ошибки — устаревшую статью или карточку — и исправьте его.
Модель с поиском исправляется быстрее: она находит обновлённые страницы. Знания без поиска меняются только с выходом новых версий моделей.