Современные языковые модели способны решать сложные задачи принятия решений благодаря многошаговым рассуждениям, однако обычно предполагается, что во время генерации ответа состояние окружающей среды остаётся неизменным. В реальном мире время, затраченное на размышление, может оказаться критичным: пока агент планирует действия, окружающая обстановка продолжает меняться, создавая новые угрозы и возможности.

Цель проекта — разработать метод обучения языковых агентов, способных адаптивно регулировать продолжительность рассуждений в зависимости от текущей ситуации. Для этого предлагается исследовать постановку, в которой генерация определённого количества токенов соответствует одному шагу времени в среде [1], а промедление может приводить к опасным последствиям. Основная гипотеза заключается в том, что обучение с подкреплением с учётом ограничений безопасности позволит агенту самостоятельно формировать разные режимы принятия решений: сокращать рассуждения в опасных ситуациях, требующих немедленной реакции, и использовать более продолжительные рассуждения, когда дополнительное планирование повышает вероятность успешного выполнения задачи. Для экспериментальной проверки предполагается использовать среду CagedCrafText[2], расширив её механизмом учёта времени, затрачиваемого на генерацию рассуждений. Исследование будет направлено на оценку того, как ограничения безопасности влияют на продолжительность и содержание рассуждений агента, успешность выполнения задач и частоту опасных действий.