Урок 8 20 минут Средний

Память агента: контекст, история и заметки

Разберитесь, чем контекст модели отличается от истории переписки и заметок между сессиями, и как этим пользоваться.

Контекст
Что модель видит в текущем запросе
История
Вся переписка остаётся в сессии
Заметки
Что сохраняется между сессиями

1. У агента три разные памяти

Когда говорят, что агент «помнит», обычно имеют в виду сразу три разные вещи. Они не заменяют друг друга.

  • Контекст модели — то, что модель видит в текущем запросе. Его объём ограничен: это контекстное окно.
  • История переписки — лента сообщений сессии. Она хранится целиком, даже если старая часть уже не помещается в запрос к модели.
  • Заметки между сессиями — файлы в панели «Память». Они остаются, когда вы открываете новую сессию того же продукта.

База знаний и вложение — не память. База знаний ищется по запросу, вложение принадлежит сообщению и рабочей области сессии. Само по себе оно не переходит в другую сессию и не становится заметкой.

2. Шкала показывает последний запрос

Над полем ввода есть шкала контекста. Подпись вроде 43.6k / 1050k означает: сколько занял последний запрос к модели и каков размер её окна. Наведите курсор на шкалу — появится пояснение «Контекст последнего вызова».

Шкала контекста над полем ввода: 43.6k из 1050k
Шкала относится к последнему запросу модели, а не к длине видимой переписки.
  • Это не сумма всех сообщений чата и не длина прокрутки.
  • Шкала обновляется вместе с историей ответа, а не на каждом промежуточном шаге.
  • Если данных нет или окно модели неизвестно, шкала скрыта.
  • Во встроенном чате 1С и в мессенджерах этой шкалы нет. Кнопка «Рассуждения» показывает шаги работы, а не заполнение окна.

3. Когда окно заполняется, сжимается запрос

У модели есть предел того, сколько текста она может принять за один раз. Когда запрос к этому пределу приближается, старая часть контекста заменяется краткой сводкой, а недавняя часть остаётся.

Сообщения в чате при этом не исчезают. Сжимается запрос к модели, а не лента переписки. Ранние сообщения по-прежнему можно открыть в истории.

Сводка короче исходного разговора. Точные формулировки, промежуточные детали и старые ограничения могут в неё не попасть. После сжатия полезно ещё раз назвать текущую цель и важные условия.

Не ждите, что шкала дойдёт до определённого процента и сжатие начнётся в ту же секунду. Момент зависит от модели и состава запроса. Если сводку составить не удалось, запрос может просто не пройти — тогда начните новую сессию или сократите задачу.

4. История хранится целиком

Открывается последняя часть переписки. Более ранние сообщения подгружаются кнопкой «Показать более ранние». Отдельного поиска по тексту истории в чате нет: чтобы вернуться к старому обсуждению, откройте нужную сессию в списке слева.

Очистить историю можно иконкой корзины в шапке чата. Перед удалением появится подтверждение.

Подтверждение очистки истории: переписка будет удалена, файлы рабочей области останутся
Очистка истории удаляет переписку сессии и не трогает рабочую область и заметки.

Остановка генерации историю не очищает. Новая сессия начинается без переписки предыдущей, но заметки продукта остаются общими.

5. Заметки живут между сессиями

Панель слева переключается между «Рабочая область» и «Память». Подсказка у «Памяти» — «Что агент помнит между сессиями». Если рабочей области нет, панель сразу называется «Память агента».

Панель Память с разделом Личная память и файлом Формат отчёта
Заметка в «Памяти» доступна в следующих сессиях этого продукта.
  • Агент записывает заметку, когда решает сохранить факт, или когда вы прямо просите запомнить.
  • Переписка сама в память не копируется.
  • Заметку можно открыть, поправить, переименовать и удалить.
  • Пока агент работает, панель заблокирована. Если он успел изменить открытый файл, ваше сохранение будет отклонено.
  • В каждый ответ попадает начало длинной заметки, не обязательно весь файл. Остальное агент читает, если откроет файл.

Во встроенном чате 1С те же заметки открываются в настройках, раздел «Память и контекст работы»: общая память и память конфигурации. Это не вся панель, а два основных файла.

6. Как этим пользоваться

  1. Важное просите записать и проверяйте панель. «Запомни: отчёт — краткий вывод, три пункта, источник». Затем откройте «Память» и убедитесь, что заметка появилась.
  2. После сжатия повторяйте цель и ограничения. Не рассчитывайте, что сводка сохранила каждую прежнюю договорённость.
  3. Новая задача — новая сессия. Так старый контекст не смешивается с новой целью. Заметки при этом останутся.
  4. Различайте три очистки. История удаляет переписку. Рабочая область удаляет файлы сессии. Удаление файла в «Памяти» убирает заметку между сессиями.
  • Шкала — заполнение последнего запроса, не длина чата.
  • Сжатие укорачивает запрос к модели, лента сообщений остаётся.
  • История открывается целиком, поиска по её тексту нет.
  • Между сессиями сохраняется только то, что лежит в «Памяти».
  • Свои агенты одного продукта делят эти заметки.

Откройте текущую сессию, посмотрите шкалу над полем ввода и панель «Память». Если важного факта там нет, попросите записать его и проверьте файл. Для следующей самостоятельной задачи начните новую сессию.