Few-shot («несколько примеров») — это приём, при котором в запросе к модели вы показываете 2–5 примеров нужного результата, и она продолжает по тому же образцу. Модель повторяет формат, тон и логику примеров без дообучения.
Языковая модель хорошо ловит закономерности в тексте. Если описать задачу словами, результат может получиться не тем, что вы представляли. Если же показать пару пар «вход — выход», модель понимает формат, длину и стиль гораздо точнее. Это называется обучением в контексте: веса модели не меняются, она просто использует примеры из запроса как подсказку. Приём называют few-shot, в отличие от Zero-shot, где примеров нет, и one-shot, где пример один. Он помогает, когда нужен специфичный формат, классификация по вашим меткам или определённый голос бренда, и часто дешевле и быстрее, чем дообучение.
Пример
Задача: превращать описание товара в короткий заголовок.
Запрос: «Сделай заголовок по образцу. Описание: чехол для iPhone из кожи с подставкой. Заголовок: Кожаный чехол с подставкой. Описание: беспроводные наушники с шумоподавлением и 30 часами работы. Заголовок: Наушники с шумоподавлением. Описание: рюкзак для ноутбука 15 дюймов, водонепроницаемый. Заголовок:»
Модель ответит в том же формате и стиле.
Как составить few-shot запрос
- Определите задачу и формат результата одной фразой.
- Подберите 2–5 примеров, похожих на реальные случаи и разных по форме.
- Оформите примеры одинаково: одинаковые подписи и разделители.
- Добавьте новый вход в конец в том же формате.
- Проверьте на нескольких случаях и замените примеры, которые сбивают модель.
Типичные ошибки
- Примеры слишком похожи друг на друга: модель копирует их содержание.
- Неодинаковая разметка: путает формат ответа.
- Ошибки в примерах: модель их повторит.
- Слишком много примеров: растёт стоимость запроса и занятое контекстное окно.
- Примеры не покрывают сложные случаи, которые встретятся в работе.
Чем отличается от Fine-tuning
Few-shot работает в рамках одного запроса и не меняет модель. Fine-tuning обучает модель на большом наборе данных и меняет её поведение постоянно. Начинать лучше с few-shot: это быстро и не требует подготовки данных.
Кому и когда это нужно
Приём нужен всем, кто работает с моделью регулярно: контент-менеджерам, аналитикам, разработчикам ботов. Он особенно полезен, когда задача трудно описывается словами, но легко показывается на образцах, например тон бренда или структура карточки товара.
Частый вопрос
Сколько примеров нужно для few-shot? Обычно хватает 2–5. Если качество не растёт, проблема чаще в качестве примеров или формулировке задачи, а не в их количестве.