Контекст нейросети забился мусором: 2 команды, которые спасут ваш проект

Утром вы даёте ИИ-агенту серьёзную задачу, а к вечеру он забывает, о чём вы договаривалисьтупит, задает вам ваши же вопросы и начинает нести чушь? Дело почти всегда в забитом контексте. В описании модели написан миллион токенов, а ясная голова у неё держится тысяч до ста пятидесяти - дальше начинаются потери «в середине» и тихая деградация. Евгений Дитковский показывает, где эта память лежит физически, как видеть её заполнение в реальном времени и как чистить, не потеряв ничего важного.

Разбираем то, что чаще всего ищут в поиске: что такое контекстное окно нейросети, как очистить контекст, чем compaction отличается от полной очистки clear, сколько токенов модель держит на самом деле и почему ИИ забывает начало диалога. Плюс живой приём - фраза про «катастрофу для проекта», после которой агент сам вытаскивает и записывает на диск всё ценное перед очисткой. Если вы внедряете ИИ в бизнес и хотите, чтобы агенты работали сами, а не под постоянным присмотром, - этот выпуск для вас.

Таймкоды

00:00 - Почему бесполезно ругаться на ИИ и что он делает в ответ
01:42 - Статус-лайн: заполнение контекста и лимиты прямо в работе
02:40 - Два правила чистой памяти: релевантность и «пусть дойдёт сам»
03:37 - Формально миллион токенов, эффективно - 150 тысяч
04:22 - «Пастух при агентах»: почему приходится следить руками
05:25 - Где на диске лежит история диалога и команда handoff
07:04 - «Будет катастрофой для проекта» - фраза, спасающая важное
07:47 - Compaction вместо clear и зачем всё это автоматизировать

Гость

Евгений Дитковский каждый день гоняет команды ИИ-агентов на реальных задачах и разбирается, как сделать их автономными. В выпуске он на своих задачах показывает статус-лайн, собственную команду handoff и операцию compaction - то, чем сам управляет памятью моделей и вычищает из неё мусор. Его канал про организационный дизайн и системную работу - https://t.me/orgdesignplus

Поддержи этот канал!

Если было полезно - подпишись, поставь лайк и скинь видео тому, кто сейчас мучается с ИИ-агентами. А обсудить всё это с живыми людьми можно у нас в Телеграме: канал - https://t.me/ai_for_business_pro, чат сообщества - https://t.me/ai_for_business_rus. Заходи, там как раз про это.

#нейросети #искусственныйинтеллект #chatgpt #ИИ #ИИагенты