Контекстное окно нейросети: что это и почему модель забывает

Контекстное окно — это объём текста, который языковая модель учитывает одновременно, когда пишет ответ. В него входит всё: ваша инструкция, вопрос, приложенные документы, история переписки и сам ответ, который модель сейчас пишет. Измеряется окно в токенах — кусочках текста. Всё, что в окно не поместилось, для модели не существует: она не «забыла» это в человеческом смысле, она просто этого не видит.

С контекстным окном связаны самые частые жалобы на нейросети: «в начале разговора договорились, а через час она делает по-старому», «загрузил договор, а она не видит пункт в середине», «бот перестал учитывать инструкцию». В статье — как окно устроено, какого оно размера у популярных моделей и как работать, чтобы эти проблемы не возникали. Короткое определение есть в словаре терминов.

Что такое контекстное окно простыми словами

Удобная аналогия — рабочий стол. На стол помещается ограниченное число листов: инструкция, документы, записи разговора. Модель видит только то, что лежит на столе. Когда стол заполнен, чтобы положить новый лист, какой-то старый приходится убрать — и чаще всего убирают самые ранние. Никакой другой памяти у модели нет: после обучения она не запоминает ваши разговоры, а каждый новый ответ пишет, заново перечитывая всё, что лежит на столе.

Отсюда неочевидное следствие: в чате модель на каждое ваше сообщение перечитывает всю переписку с самого начала. Сообщение номер 50 обрабатывается вместе с предыдущими 49, и если переписка длинная, большая часть окна уходит на историю, а не на текущий вопрос. Поэтому длинные разговоры становятся медленнее, быстрее расходуют лимиты подписки, а при работе через API — дороже: вы платите за входящие токены всей истории на каждом шаге. Подробнее о том, как считаются токены, — в гайде что такое токены в нейросетях.

Важная деталь: в окно входит и ответ. Если модели дали 32 тысячи токенов окна и 30 тысяч заняли документы, на ответ остаётся мало, и он обрывается или получается скомканным. У моделей с режимом размышления в окно входят ещё и токены рассуждений, которые пользователь обычно не видит. Поэтому документ, который «влезает» в окно впритык, — плохая идея: оставляйте запас.

Узнать, сколько окна занято на самом деле, проще всего через API: провайдеры возвращают в каждом ответе число входящих и исходящих токенов. В чатах этого обычно не видно, но есть косвенные признаки переполнения: модель начинает игнорировать ранние инструкции, путает детали из начала разговора, ответы становятся короче и общими словами. Если заметили такое — пора подвести итог и начать новый разговор.

Размеры окна у популярных моделей

За несколько лет окна выросли на порядки: первые массовые модели учитывали несколько тысяч токенов, современные флагманы — сотни тысяч и миллион. Ниже — размеры по официальной документации провайдеров на сентябрь 2026 года. Перевод в страницы — наша грубая оценка: по нашему замеру русский текст в современных токенизаторах занимает около 3,8 знака на токен, а у разных провайдеров токенизаторы разные, поэтому считайте это порядком величины.

Два замечания к таблице. Первое: это размер окна модели через API, а в чатах по подписке провайдер может ограничивать окно меньшим значением или по-своему обрезать историю. Второе: размер окна — не то же самое, что объём файла, который можно загрузить. Чат-боты часто принимают файлы больше окна, но показывают модели не весь файл, а найденные в нём фрагменты. Это удобно, но значит, что модель может не увидеть нужное место, если поиск его не нашёл.

Чтобы прикинуть, поместится ли ваша задача, удобно пересчитать типичные документы в токены. Расчёт ниже — по нашему замеру для русского текста (около 3,8 знака на токен); у российских моделей токенизаторы свои, поэтому оставляйте запас в треть окна.

Почему модель «забывает» в длинном разговоре

Когда переписка перестаёт помещаться в окно, чат-бот должен что-то убрать. Способы разные: отбросить самые ранние сообщения, заменить их кратким пересказом, оставить только выдержки. Во всех случаях теряется то, что было в начале, — а в начале обычно и лежат самые важные договорённости: роль, правила, требования к формату. Отсюда эффект, знакомый каждому: через час работы модель «забывает», что вы просили писать без канцелярита или не трогать определённый раздел.

Второй приём — держать правила вне разговора. В большинстве чатов есть настройки или «проекты» с постоянной инструкцией, которая добавляется к каждому разговору заново. Туда стоит вынести то, что должно действовать всегда: тон, формат, запреты, сведения о компании. Тогда эти правила не вытесняются историей. Для агентов в среде разработки ту же роль играет файл памяти проекта, например CLAUDE.md, — о нём подробнее в гайде Claude Code с нуля.

Третий — не смешивать задачи. Один чат на одну задачу работает лучше, чем бесконечная переписка обо всём подряд: окно не засоряется посторонним контекстом, а модель не путает требования одной задачи с другой. Письмо клиенту и разбор отчёта — два разных чата, даже если оба про одного клиента.

Большое окно — не значит всё прочитано: проблема середины

Даже если текст целиком помещается в окно, модель использует его неравномерно. В 2023 году исследователи из Стэнфорда и других университетов опубликовали работу «Lost in the Middle»: модели заметно лучше находят нужную информацию в начале и в конце длинного контекста, чем в середине. На графике качество ответа от положения нужного фрагмента выглядело как буква U — с провалом посередине.

Современные модели справляются с длинным контекстом гораздо лучше, но проблема не исчезла полностью. В отчёте «Context Rot» 2025 года компания Chroma проверила 18 моделей и показала: по мере роста объёма входного текста качество падает у всех моделей, даже на простых задачах, причём неравномерно и не всегда предсказуемо. Вывод практический: миллион токенов окна — это возможность загрузить много, а не гарантия, что всё загруженное будет использовано одинаково хорошо.

Что из этого следует. Самое важное — инструкцию и вопрос — ставьте в начало или в конец запроса, а не между документами. Если документов много, указывайте, где искать: «ответ, скорее всего, в разделе 7». И не загружайте лишнего: чем меньше в окне постороннего, тем точнее модель находит нужное.

Почему тогда провайдеры пишут о «почти идеальной» работе с длинным контекстом? Обычно речь о тесте «иголка в стоге сена»: в длинный текст вставляют одну фразу-факт и просят модель её найти. С такой задачей современные модели справляются почти всегда, но она проще реальной работы: нужный факт буквально совпадает со словами вопроса.

В жизни ответ приходится собирать из нескольких мест, формулировки в документе не совпадают с вопросом, а рядом лежат похожие, но не те пункты. Именно на таких задачах авторы «Context Rot» и увидели падение качества — поэтому высокий результат в рекламе модели не отменяет проверки на ваших документах. Самая простая проверка — десяток вопросов по вашему реальному документу, ответы на которые вы знаете заранее, причём половина — по разделам из середины.

Как работать с большими документами

Для документов, которые не помещаются в окно или помещаются впритык, есть три подхода. Разбить на части и обработать каждую отдельно: например, выписать условия из каждого раздела договора, а потом собрать общую таблицу. Сжать: сначала попросить краткое изложение каждой главы, потом работать с изложениями. Искать: не отправлять документ целиком, а находить фрагменты, относящиеся к вопросу, и отправлять только их. Третий подход называется RAG, и именно так работают боты поддержки по базе знаний и большинство функций «чат с документом».

Проверка того, что модель действительно прочитала документ, — простой контрольный вопрос по месту из середины: «что сказано в пункте 6.3». Если модель отвечает уверенно, но не цитирует, или цитирует пункт, которого нет, значит, до середины она не добралась. Тогда документ нужно разбить или подать нужный фрагмент отдельно. Подробнее о работе с документами и таблицами — в гайде работа с документами и таблицами.

Для регулярной работы с большим массивом документов — архивом договоров, базой знаний, документацией — удобнее инструменты, которые сами индексируют документы и ищут по ним: RAG-системы, функции «проектов» в чат-ботах, специализированные сервисы вроде NotebookLM. Модель в них видит не всё сразу, а только найденное, и это как раз то, что нужно для точных ответов.

Как вести длинные разговоры и работу агентов

Для агентов контекстное окно — главный ресурс. Агент, который работает над задачей час, читает файлы, запускает команды и получает их вывод, заполняет окно быстрее, чем человек в чате. Поэтому инструменты для агентов умеют управлять контекстом сами: сжимают старую историю в резюме, убирают из окна результаты выполненных шагов, выносят подзадачи в отдельных «субагентов» со своим окном. О том, как это устроено, — в гайде свои агенты и субагенты.

Для обычной работы в чате хватает нескольких привычек. Одна задача — один чат. Постоянные правила — в настройки или проект, а не в первое сообщение. Длинный разговор — резюме и новый чат. Большой документ — по частям или через поиск. Важное — в начало и в конец запроса. И контрольный вопрос по середине, если от ответа многое зависит. Эти привычки не требуют никаких настроек и работают в любом чат-боте — платном и бесплатном, зарубежном и российском.

Если вы строите бота или автоматизацию, окно становится ещё и вопросом денег: всё, что вы кладёте в него на каждом шаге, оплачивается как входящие токены. Сжатие истории, поиск вместо целых документов и кэширование повторяющихся инструкций экономят одновременно качество и бюджет. Как устроена сама языковая модель и почему окно вообще ограничено, разобрано в гайде что такое LLM.

Автор: Артём Беспалов, маркетинговое ИИ-агентство «Термос Беспалова», Калининград.

Источники: документация Anthropic о контекстных окнах · модели Yandex AI Studio · GigaChat 2 Max · Liu и соавторы, «Lost in the Middle», 2023 · Chroma, «Context Rot», 2025 (проверено 26.09.2026).