Anthropic разобрала, как должна быть устроена память ИИ-агента, чтобы тот не терял накопленный опыт при каждом перезапуске. Памятью исследователи называют опыт, который Claude получает за время работы, а затем переносит из одного запуска в другой в читаемой форме. Дообучение весов, усвоение примеров внутри одной беседы и сжатие контекста в это понятие не входят.
Авторы делят ее на четыре яруса:
- транскрипты – полный журнал прошлых сессий с поиском по нему;
- собственные записи агента;
- обобщенные материалы, например внутренняя вики;
- короткий стартовый блок, который система сама загружает при каждом запуске.
Стартовый блок лучше держать коротким, по сути указателем на подробности, которые хранятся ниже. Поддерживать порядок в системе помогает dreaming – проход между сессиями, во время которого агент перечитывает журналы, исправляет ошибочные записи и решает, что поднять наверх. В одном из опытов с игрой Pokémon Red модель ошибочно отметила пещеру как пройденную, а dreaming сверил заметку с журналом и исправил ее, после чего агент добрался до следующего города.
Изображение: Anthropic (здесь и на обложке)
Польза от памяти сильно зависит от модели. В тесте CL-Bench, где агенту поочередно задавали вопросы о базе данных, перезапуская его перед каждым, Opus 5 благодаря собственным записям вырос с 0,564 до 0,828 балла. Sonnet 4.6 почти ничего не выиграл, пока в инструкции прямо не появилось требование заглядывать в записи, прежде чем отвечать. Сильным моделям жесткие правила, наоборот, вредят: указание фиксировать одни лишь промахи заметно урезало выигрыш. Поэтому в Anthropic советуют объяснять агенту, зачем нужна память, а не диктовать, как ей пользоваться.
Не менее важно, что именно хранить. Ранний Sonnet 3.7 в той же игре сохранял любые мелочи, накопил 413 файлов и в итоге запутался в собственном архиве. Свежие модели оставляли в основном план действий и подтвержденные закономерности, а Opus 5.5, обходясь компактным списком целей, дошел до финала.
Вики пригодилась в задачах, где сведения приходится сводить вместе из разных файлов. На подборке юридических вопросов такого типа она обеспечила 87% верных ответов, тогда как поиск – 73%, хотя при работе с единственным документом разница почти исчезала. Параллельным агентам лучше выделять по отдельной странице: редактируя одну таблицу, они перезаписывали чужие изменения, так что уцелел только 41 факт из 57. Раздельные страницы сохранили все.
Комментарии