Никита АлимпиевNikAlimp

Контекстное окно

Context Window

Контекстное окно — это максимальный объём текста, который языковая модель может учитывать за один раз: ваш запрос, историю диалога, загруженные файлы и её собственный ответ вместе.

Объём измеряют в токенах. Токен — это часть слова; для русского языка он обычно короче, чем для английского, поэтому на одну страницу текста уходит больше токенов. Если окно рассчитано на 200 тысяч токенов, это примерно сотни страниц текста, но точные цифры зависят от модели и языка. У разных моделей окна разные: от нескольких тысяч до сотен тысяч и даже миллионов токенов.

Модель не помнит прошлые разговоры сама по себе. Всё, что она «знает» о текущей беседе, лежит в окне. Когда диалог становится длиннее лимита, старые сообщения обрезаются или сжимаются, и модель перестаёт о них помнить. Именно поэтому в длинном чате она может «забыть» то, о чём вы договорились в начале.

Что занимает место в окне

  • Системные инструкции (Системный промпт).
  • Вся история переписки.
  • Загруженные документы и вставленный код.
  • Результаты работы инструментов и поиска.
  • Ответ модели: он тоже входит в лимит.

Как работать с ограничением

  1. Не вставляйте лишнее: только те фрагменты, которые нужны для задачи.
  2. Для больших баз знаний используйте RAG: из базы подтягиваются лишь релевантные куски.
  3. В длинной работе периодически просите модель кратко подвести итоги и начинайте новый чат с этой сводки.
  4. Важные условия повторяйте ближе к концу запроса.
  5. Для постоянных материалов используйте проекты или похожие функции.

Типичные ошибки

  • Считать, что большое окно решает всё. Качество внимания к деталям в середине очень длинного текста может падать.
  • Забывать, что платить приходится за каждый токен входа и ответа.
  • Загружать в чат весь сайт целиком вместо нужных страниц.
  • Не замечать, что модель потеряла начало разговора.

Чем отличается от памяти

Контекстное окно — это краткосрочная рабочая область одного разговора. Память — отдельный механизм, при котором сервис сохраняет факты о вас между разговорами и подставляет их в начало нового. Технически сохранённая память всё равно попадает в окно.

Пример

Вы загрузили договор на 40 страниц и спрашиваете про срок оплаты. Если документ помещается в окно, модель видит его целиком и находит ответ. Если документ больше окна, часть текста придётся сократить, разбить на куски или подключить поиск по содержимому.

Частый вопрос

Почему модель «забыла» то, что я писал в начале длинного чата? Либо старые сообщения вышли за пределы окна и были обрезаны, либо они остались, но модель уделила им мало внимания среди огромного объёма текста. Помогает краткая сводка ключевых договорённостей в начале нового запроса.

GEO-аудит

Узнайте, что нейросети говорят о вашем бизнесе

Проверю ChatGPT, Алису AI, GigaChat, Perplexity и DeepSeek по запросам ваших клиентов. Покажу, кого советуют вместо вас и почему. Экспресс-проверка — бесплатно, полный аудит — от 9 900 ₽.

Или написать в Telegram

Удобнее голосом? Запишитесь на 30 минут в Zoom — разберём задачу и решим, с чего начать.