Контекстное окно

Контекстное окно — максимальный объём текста, который модель удерживает за один диалог. Измеряется в токенах , и входит в него всё сразу — системная инструкция, история переписки, приложенные файлы и сам ответ модели. Когда лимит исчерпан, ранние сообщения вытесняются, и модель перестаёт помнить начало разговора. Размер окна вырос с нескольких тысяч токенов у первых версий GPT до миллиона и больше у моделей 2026 года. Заявленный размер стоит отличать от рабочего, потому что на длинных дистанциях модели хуже находят нужный фрагмент в середине текста. Обойти ограничение помогает RAG , когда в запрос подставляют только те куски документов, которые нужны для ответа.