Цель проекта — разработать метод непрерывного обучения языковых агентов в открытом мире на основе компактных языковых моделей (SLM), которые приобретают знания через взаимодействие с окружающей средой и диалог с внешним оператором. Оператор предоставляет недостающую информацию об объектах и механиках, позволяя агенту связывать языковые описания с визуальными наблюдениями и результатами собственных действий.

В рамках проекта предлагается интегрировать методы динамической токенизации [1, 2] в ZeroHero — систему обучения небольших языковых агентов с адаптивным переключением между имитационным обучением и обучением с подкреплением (BATS). Предполагается, что адаптация токенизации по мере появления новых понятий позволит компактным моделям эффективнее усваивать знания и снижать риск забывания ранее изученного. Для экспериментальной проверки планируется разработать процедурно генерируемую среду [3], в которой постепенно появляются новые объекты, их названия и механики взаимодействия.