Контекст и память

Окно контекста: что у модели перед глазами

В прошлом уроке мы дали модели материал и сказали «отвечай по нему». Чтобы пользоваться этим уверенно, нужно понимать, что именно модель видит в момент ответа. Устройство простое и не очевидное: разговор не продолжается — он каждый раз подаётся заново.

Когда вы пишете второе сообщение, сервис не досылает модели одну вашу строку. Он собирает всё: свои указания о том, как ей себя вести, весь ваш разговор с самого первого сообщения, приложенные файлы — и сверху ваше новое сообщение. Эта стопка целиком и есть то, что модель видит. Из неё она достраивает ответ.

Стопка называется окном контекста. У окна есть размер, и он конечен. В современных моделях это очень много — сотни страниц текста, — но «много» не означает «сколько угодно». Как только разговор перерастает окно, самое старое перестаёт в него помещаться.

Из устройства следуют три вещи, которые сразу меняют привычки. Первая: всё, что вы уже написали, работает. Не нужно повторять условия в каждом сообщении — модель видит их в стопке. Вторая: мусор в разговоре тоже работает. Если вы двадцать сообщений назад попросили «пиши с юмором», а теперь просите деловое письмо, юмор может просочиться: старая просьба никуда не делась. Третья: чем длиннее разговор, тем дороже каждый ответ — модели приходится каждый раз перечитывать всю стопку, и отвечает она заметно медленнее.

Полезно представлять и порядок величин, чтобы не бояться окна попусту. Обычная переписка на двадцать сообщений — это несколько страниц, то есть доли процента окна. Договор на сорок страниц — заметная часть, но всё ещё не предел. Проблемы начинаются там, где в одну ветку складывают несколько больших документов и час обсуждения: вот тогда начало действительно перестаёт помещаться. Иными словами, окно почти никогда не мешает короткой работе и почти всегда напоминает о себе в долгой.

И ещё одно, что стоит знать заранее: окно тратится не только вашим текстом. Ответы модели ложатся в ту же стопку. Если вы попросили десять вариантов текста по тысяче знаков, вы потратили окна больше, чем на весь предыдущий разговор. Отсюда простой приём для долгой работы: не просить «ещё десять вариантов» в той же ветке, а взять понравившийся, перенести его в новую и продолжать с ним.

Полезно знать и про самый верх стопки — указания сервиса. Это невидимая инструкция, которую владелец сервиса ставит перед вашим разговором: как себя вести, чего не делать, каким тоном отвечать. Вы её не видите и обычно не можете отменить. Именно поэтому один и тот же вопрос в двух сервисах даёт ответы разного тона: модели могут быть похожи, а указания — разные.

Что выпадает первым и как это заметить

Пока разговор помещается в окно, всё хорошо. Когда перестаёт — начинается то, что люди описывают словами «она отупела» или «сломалась». На самом деле происходит простая вещь: самое старое перестаёт помещаться и выпадает. А самое старое — это, как правило, ваши правила: их вы задали в первом сообщении.

Признак всегда один и тот же: модель перестаёт соблюдать то, о чём вы просили в начале. Возвращается канцелярит, которого вы просили избегать. Ответы становятся длиннее заданной меры. Пропадает роль. Появляются формулировки, прямо запрещённые в первом сообщении. Ошибки при этом не выглядят как ошибки: ответ остаётся связным и уверенным, просто он теперь не про ваши условия.

Лечится это двумя способами, и оба занимают секунды. Первый — повторить условия коротко: «напоминаю: без восклицательных знаков, не длиннее 600 знаков, без слова „уникальный“». Второй, более надёжный, — начать новый разговор и положить в первое сообщение сразу всё: условия и нужный материал.

Есть и третий приём, полезный в длинной работе: попросить итог. «Собери в десяти пунктах, о чём мы договорились и какие правила действуют». Полученный список вы переносите в новый разговор — и он начинается не с нуля, а с накопленного. Так длинная работа перестаёт зависеть от размера окна вовсе.

Полезно помнить и о том, что выпадение — не единственная причина «ухудшения». Вторая, более частая: разговор засорился. Десять забракованных вариантов, три смены направления, две попытки «а давай наоборот» — всё это лежит в стопке и тянет ответ к себе. Иногда достаточно не удлинять разговор, а начать заново с тем же запросом — и результат становится лучше без всяких объяснений.

Одна задача — один разговор

Отсюда правило, которое экономит больше всего времени в повседневной работе: одна задача — один разговор.

Причина не в аккуратности, а в устройстве. Всё, что лежит в разговоре, влияет на ответ. Когда в одной ветке вы сначала составляли договор, потом писали пост в соцсети, а потом вернулись к договору, модель видит всё сразу: юридические формулировки, лёгкий тон поста и ваши правки к обоим. Смешение проявляется незаметно — не грубой ошибкой, а лёгким сдвигом тона и формулировок, который вы потом правите руками, не понимая, откуда он берётся.

Из правила есть полезное исключение, и оно же — лучший приём для повторяющихся дел. Если вы каждую неделю делаете одно и то же — пишете письма одного вида, разбираете однотипные документы, готовите похожие тексты, — заведите рабочую ветку под эту задачу и возвращайтесь в неё. В ней накапливаются ваши правила, удачные примеры и замечания, и с каждым разом результат становится ближе к нужному с первого сообщения.

Ещё один практический приём — шапка задачи. Это короткий текст о вас и вашей работе, который вы держите в заметках и вставляете первым сообщением в новый разговор: кто вы, для кого делаете, какой тон, что нельзя, где взять данные. Три-пять строк. Они заменяют половину объяснений и снимают самую частую жалобу на ИИ — «он пишет общими словами».

Отдельно стоит сказать, когда ветку не нужно начинать заново, хотя хочется. Если модель ошиблась один раз, это не повод: дешевле сказать, что не так, и получить исправление — вся история правок при этом останется в окне и будет работать на вас. Новый разговор здесь означает объяснять всё сначала. Признак, по которому стоит всё-таки начать заново, один: вы уже дважды объяснили одно и то же, а ответ не меняется — значит, в окне лежит что-то, что тянет сильнее ваших слов.

И про порядок сообщений. Модель лучше всего держит начало и конец стопки: то, что в середине длинного разговора, работает слабее. Поэтому важное стоит говорить либо сразу, либо прямо сейчас — а не «где-то там, я уже писал». Если сомневаетесь, помнит ли модель условие, дешевле повторить его одной строкой, чем проверять.

Память между разговорами

Теперь про то, что удивляет чаще всего: между разговорами модель ничего не помнит. Новый чат — чистый лист. Она не знает, кто вы, чем занимаетесь и о чём вы договорились вчера в соседней ветке. Это не ограничение конкретного сервиса, а устройство: знание живёт в окне контекста и заканчивается вместе с ним.

Поверх этого сервисы строят память — отдельную надстройку. Работает она так: сервис сам или по вашей просьбе выписывает из разговора факты о вас («работает бухгалтером», «предпочитает короткие ответы», «пишет на русском») и кладёт их в отдельный список. При новом разговоре список подставляется в начало стопки — и модель как будто вас помнит.

У памяти есть и обратная сторона, которую замечают не сразу: она объясняет странные ответы. Однажды записанная деталь («я пишу диплом по логистике») будет всплывать в темах, где вы её не ждёте. Если ответы вдруг тянет в сторону, загляните в память — часто причина там, а не в модели.

Отдельно стоит сказать про файлы и проекты. Многие сервисы позволяют завести «проект» или «пространство»: положить туда документы и правила, и все разговоры внутри него начинаются уже с ними. Это та же идея, что и шапка задачи, только на стороне сервиса — и для повторяющейся работы удобнее всего.

Из таблицы виден и практический вывод: самое надёжное хранилище контекста — ваше собственное. Сервисы меняются, память чистится, проекты переезжают, а текст в вашей заметке остаётся. Это же и самый быстрый способ перенести работу в другой сервис: вставили шапку — и продолжили.

Длинные материалы

Отдельный разговор — про длинные материалы. Когда вы кладёте в окно стостраничный документ, формально он туда помещается, но ответы становятся хуже: модель держит общий смысл и теряет детали в середине. Это тот же эффект, что и с началом разговора, только внутри одного текста.

Работает простой порядок, который стоит запомнить.

Шаг первый — карта. Попросите оглавление: «перечисли разделы этого документа с номерами страниц и одной строкой о содержании». Вы получите карту и сразу увидите, где лежит нужное.

Шаг второй — по частям. Задавайте вопросы по одному разделу и прикладывайте только его. Ответы становятся заметно точнее, потому что в окне нет девяноста лишних страниц.

Шаг третий — цитаты. Просите приводить фрагменты, на которых основан ответ. С длинным документом это единственный дешёвый способ проверки: сверить три цитаты быстрее, чем перечитывать раздел.

Отдельно — про таблицы и выгрузки. Их тоже можно класть в окно, и модель неплохо читает небольшие: двадцать строк она разберёт и объяснит. Но чем длиннее таблица, тем выше шанс, что она «прочитает» её приблизительно: перепутает строки, сложит не то. Здесь работает то же правило, что и в первом уроке: считает таблица, а модель объясняет посчитанное. Если всё же нужно поручить разбор большой выгрузки, просите не ответ, а формулу или запрос, которым вы получите ответ сами, — это проверяемо, а число из головы модели проверить нечем.

И ещё один приём, который стоит знать заранее: просите модель сказать, чего ей не хватает. «Прежде чем отвечать, скажи, каких сведений в приложенных материалах нет для полного ответа». Это переводит умолчания в список: вместо правдоподобно заполненных дыр вы получаете перечень того, что нужно донести. На длинных документах приём экономит больше всего времени — и он же приучает смотреть на ответ как на работу, которую вы принимаете, а не как на готовый результат.

Если документов много — договоры за год, переписка, выгрузки, — лучше работает другой подход: сервис сам ищет нужные куски в вашей библиотеке и подставляет только их. Эту связку называют ответами по своим документам, и ей посвящён отдельный урок уровня.

И последнее про окно: следите за тем, что в нём лежит. Если вы приложили черновик, потом другой, потом третий, в стопке лежат все три, и модель может смешать их между собой. В такой момент дешевле начать новый разговор и положить туда только актуальную версию — это ровно та привычка, из-за отсутствия которой ИИ чаще всего кажется бестолковым.