Никита АлимпиевNikAlimp

Fine-tuning

Дообучение

Fine-tuning (дообучение) — это дополнительное обучение уже готовой модели на небольшом наборе собственных примеров, чтобы она лучше выполняла конкретную задачу или писала в нужном стиле.

Базовую языковую модель обучают на огромных массивах текстов, это дорого и делается один раз. Дообучение берёт готовую модель и продолжает её обучение на сотнях или тысячах пар «запрос — желаемый ответ». Веса модели слегка меняются, и она закрепляет нужное поведение: формат, терминологию, тон бренда, классификацию по вашим категориям. Результат — новая версия модели, которую вызывают по отдельному имени.

Дообучение подходит, когда нужно стабильно получать узкий формат или стиль и промптов недостаточно. Но оно не лучший способ «научить» модель фактам: знания, которые часто меняются, надёжнее подавать через поиск по документам (RAG). А для многих задач хватает примеров в запросе и точной инструкции. Поэтому порядок такой: сначала промпт, потом few-shot и RAG, и только затем дообучение.

Когда это оправдано

  • Нужен строго одинаковый формат или голос на большом объёме.
  • Много однотипных задач: классификация, извлечение данных.
  • Длинные инструкции в каждом запросе дороги, а дообучение их заменяет.
  • Есть качественный набор размеченных примеров.

Как подойти к дообучению

  1. Убедитесь, что промпт и few-shot не решают задачу.
  2. Соберите набор примеров: сотни пар вход-выход хорошего качества.
  3. Очистите данные от ошибок, противоречий и персональных данных, учитывая 152-ФЗ.
  4. Выделите часть примеров на проверку, не используя их при обучении.
  5. Запустите обучение через сервис провайдера или инструменты для открытых моделей.
  6. Сравните результат с исходной моделью на проверочном наборе и решите, стоит ли применять.

Типичные ошибки

  • Дообучать ради знаний, которые меняются: лучше RAG.
  • Использовать мало или грязные данные: модель закрепит ошибки.
  • Не проверять на отложенных примерах: нет понимания реального качества.
  • Не учитывать, что при смене версии базовой модели придётся повторять процесс.
  • Включать в обучающие данные конфиденциальную информацию.

Пример

Служба поддержки готовит 1 000 пар «обращение клиента — ответ по стандартам компании». Дообученная модель отвечает в нужном тоне и формате без длинной инструкции в каждом запросе.

Частый вопрос

Fine-tuning или RAG — что выбрать? Если модели не хватает знаний или они меняются, берите RAG. Если нужно изменить стиль, формат и поведение, пробуйте дообучение. Часто их сочетают.

GEO-аудит

Узнайте, что нейросети говорят о вашем бизнесе

Проверю ChatGPT, Алису AI, GigaChat, Perplexity и DeepSeek по запросам ваших клиентов. Покажу, кого советуют вместо вас и почему. Экспресс-проверка — бесплатно, полный аудит — от 9 900 ₽.

Или написать в Telegram

Удобнее голосом? Запишитесь на 30 минут в Zoom — разберём задачу и решим, с чего начать.