Сколько текста нейросеть удержит и что делать с длинным документом

Сцена знакомая почти всем, кто хоть раз загружал в чат что-то длиннее пары страниц. Вы вставляете методичку, отчёт или расшифровку двухчасовой встречи, задаёте пять вопросов подряд — и на первых двух модель отвечает блестяще, а на третьем начинает путаться. Пересказывает не то, приписывает вывод не тому разделу, а на прямой вопрос «что было сказано в самом начале» выдаёт что-то среднее между вашим текстом и общими рассуждениями.

Первая реакция — решить, что текст «не влез». Иногда так и есть: у каждой модели свой предел объёма, и если его превысить, лишнее просто отрезается. Но гораздо чаще документ помещается целиком, а ответы всё равно плывут. Это отдельное явление, и понимать его полезнее, чем гоняться за цифрами лимитов — они у всех моделей разные и меняются с каждым обновлением.

Что вообще происходит с длинным текстом

Модель не читает документ так, как читаете вы: слева направо, страницу за страницей, откладывая важное в память. Весь текст, который вы отправили, попадает к ней разом — как одно большое поле, где каждый кусок соотносится с каждым. И чем больше это поле, тем сильнее внимание модели размазывается по нему.

Отсюда главный практический эффект: качество ответа зависит не только от того, влез ли текст, но и от того, где именно в тексте лежит нужный кусок. Начало и конец модель удерживает заметно надёжнее середины. Последние абзацы она видит как самые свежие, первые — как рамку всего разговора, а вот всё, что оказалось между, работает хуже. Это не сбой и не поломка — так устроена механика, и она проявляется у любой текстовой модели, просто в разной степени.

Второй эффект — тихий. Модель не сообщает, что что-то потеряла. Она не пишет «середину я помню хуже» и не отказывается отвечать. Она просто отвечает — уверенно, гладко и правдоподобно, достраивая недостающее из общих знаний. Со стороны точный ответ и выдуманный выглядят одинаково, и в этом вся неприятность. Подробнее эту привычку модели смешивать ваш текст с общим знанием мы разбирали в статье про ответы строго по своим документам — там же лежит базовая рамка запроса, которая пригодится и здесь.

Третье, что стоит держать в голове: длинный диалог — это тоже длинный текст. К двадцатому сообщению вся ваша переписка становится тем самым большим полем, и инструкция, которую вы дали в самом начале, работает всё слабее. Поэтому знакомое ощущение «модель забыла, о чём мы договаривались» — не каприз, а тот же самый эффект в другой обёртке.

Чего делать не надо

Прежде чем про работающие приёмы — про то, что не помогает, но отнимает время.

Не помогает просить модель «внимательно прочитать весь текст» и «ничего не упустить». Это не рычаг: у модели нет режима «читать усерднее», который включается по просьбе. Такая фраза не портит запрос, но и не чинит ничего.

Не помогает вставлять всё подряд «на всякий случай». Логика «дам побольше, вдруг пригодится» работает против вас: лишние разделы не добавляют точности, а разбавляют поле внимания и уводят модель от нужного места. Двадцать страниц, из которых по делу три, дадут ответ хуже, чем эти три страницы отдельно.

Не помогает и погоня за моделью с самым большим объёмом контекста. Способность принять много текста и способность одинаково хорошо помнить его целиком — это разные вещи. Большой запас полезен, когда документ иначе просто не влезает, но он не отменяет проседания в середине.

Как резать документ на части

Самый надёжный приём — не пытаться скормить всё разом, а разложить работу на шаги. Звучит скучнее, чем «просто вставить файл», но именно так получаются ответы, которым можно верить.

Режьте по смыслу, а не по объёму. Раздел, глава, тема, один блок расшифровки, одна тема встречи — естественная граница лучше механической, потому что внутри куска остаётся всё, что связано между собой. Если резать по счётчику знаков, вы регулярно будете разрывать мысль пополам, и обе половины станут бесполезны.

Каждую часть подписывайте. «Часть 3 из 7, раздел „Порядок расчётов“» — этой строчки достаточно, чтобы модель понимала, где она находится и что было раньше. Заодно эта же подпись пригодится вам, когда придётся искать, откуда взялся спорный вывод.

Обрабатывайте части по одной и сохраняйте результат отдельно. Не «прочитай часть 4 и продолжай», а «вот часть 4, вот задача, дай ответ по ней». Ответы копите у себя — в заметках или документе, а не в истории чата, потому что история сама превращается в длинный текст со всеми его проблемами.

Сводка предыдущей части

Разрезать текст — половина дела. Вторая половина — не потерять связь между кусками. Здесь работает приём, который экономит больше всего сил: перед каждой новой частью давайте короткую сводку того, что уже было.

Сводку не нужно писать самому — её делает та же модель в конце обработки предыдущего куска. Просите не пересказ, а именно рабочую выжимку: что важно помнить дальше, какие термины введены, какие решения приняты, что осталось нерешённым.

Ты обработал часть 3 из 7. Составь сводку для работы со следующей частью.
Формат: 5-7 пунктов, только то, что понадобится дальше.
Включи: введённые термины и определения, принятые решения, открытые вопросы, действующие лица.
Не пересказывай содержание целиком и не добавляй ничего от себя.

Дальше эта сводка идёт в начало следующего запроса — перед новым куском текста. Получается цепочка: сводка накопленного плюс свежая часть. Объём каждого запроса остаётся небольшим, а нить рассуждения не рвётся. Тот же приём выручает в длинных диалогах: когда чувствуете, что модель поплыла, попросите её собрать сводку разговора, откройте новый чат и начните с неё.

У сводки есть побочная польза. Читая её, вы сразу видите, что модель поняла неправильно, — и правите на месте, а не через три шага, когда ошибка уже вросла в выводы.

Один вопрос — один раздел

Второй рабочий принцип: не задавайте по длинному тексту широких вопросов. «Сделай выжимку всего документа» и «найди все несостыковки» — задания, которые заставляют модель одновременно держать в фокусе всё, а значит, попадают ровно в слабое место.

Сравните два подхода. Широкий: «прочитай отчёт и расскажи, что важно». Узкий: «по разделу 4 ответь, какие сроки указаны и кто отвечает за их соблюдение». Второй ответ будет точнее, потому что модели не нужно решать, что здесь считать важным, и не нужно удерживать шестьдесят страниц ради одного абзаца.

Из этого следует неочевидный порядок работы. Сначала пройдитесь по разделам с узкими вопросами и соберите короткие ответы. И только потом отдайте модели собственные ответы — уже без исходного текста — и попросите свести их в общую картину. Обобщение по коротким выпискам получается заметно надёжнее, чем обобщение по всему документу сразу.

Просите цитату

Главный способ проверить, действительно ли ответ взят из вашего текста, — потребовать дословную цитату. Приём стоит секунды, а закрывает ровно ту проблему, из-за которой пропадают середины: придумать вывод легко, придумать вывод вместе с фрагментом, которого в документе нет, сложнее, и подделку почти всегда видно.

Отвечай только по приведённому ниже тексту.
После каждого утверждения приводи дословную цитату в кавычках и указывай раздел или абзац.
Если ответа в тексте нет, напиши «в тексте этого нет» и не предлагай вариантов.

Дальше вы не перечитываете документ, а прогоняете цитату поиском по файлу. Не нашлась дословно — вывод под подозрением. Нашлась не в том разделе, который назвала модель, — тоже сигнал: значит, она угадывала расположение.

Хороший контрольный вопрос: попросите ответить по фрагменту, который лежит ровно в середине длинного текста, и посмотрите на цитату. Это быстрый способ понять, действительно ли модель видит весь ваш документ или уже держится за края.

Что ещё снижает риск

Уберите из текста всё, что не относится к вопросу: колонтитулы, оглавления, повторяющиеся шапки, служебные приложения. Чем чище материал, тем меньше поводов для путаницы.

Важное кладите в начало и конец. Инструкцию — перед текстом, ключевой вопрос — сразу после него. Задание, утонувшее в середине документа, модель легко прочитает как часть самого документа.

Не бойтесь повторять инструкцию. В длинной работе разумно продублировать требование «только по тексту, с цитатой» в каждом запросе, а не рассчитывать, что оно живёт с первого сообщения.

И проверяйте на разных моделях, если задача важная. Ведут они себя на длинных текстах по-разному, и это тот случай, когда доступ ко всему каталогу сразу экономит время: в Most AI можно прогнать один и тот же кусок через несколько текстовых моделей, сравнить цитаты и выбрать ту, что реже уходит от исходника. Оплата в рублях, без подписки, стоимость запросов — в прайсинге.

Частые вопросы