Проблема prompt inflation
Наш контекст содержит: - историю запросов пользователя - системный промпт - ответы тулов
Контекст разрастается и размывается! Модель забывает важное для нас!
Исправим проблему
Установите в True только указанные переменные окружения в .env:
STEP_5_1 = True
STEP_5_2 = True
docker compose up -d --force-recreate cookbook-agent
Повторно пройдите сложный сценарий с памятью
В меню агента нажмите Clear cache для очистки сессии
Последовательно спросите агента:
Я не ем сахар. Подскажи рецепт котлетЯ не ем лук, чеснок и креветки. Подскажи рецепт пловаКак делать молочный коктейль?
Задача
- Провести диагностику сложного сценария и понять - почему теперь все работает как надо
Знаешь ответ - подними руку!