Необходимые уменияИщем кандидата с хорошим пониманием архитектуры трансформеров и интересом к разработке авторегрессионных языковых моделей.
Ожидается базовое знание методов обучения с подкреплением и желание развиваться в этом направлении, а также способность разбираться и реализовывать соответствующие алгоритмы. Важно уверенно владеть Python, иметь опыт работы с Docker и одним из фреймворков: PyTorch или JAX.
Будет плюсом- Опыт самостоятельной реализации или модификации таких моделей под конкретные downstream-задачи, включая настройку входов и выходов.
- Навыки логирования экспериментов (например, с помощью wandb или TensorBoard)
- Опыт участия в подготовке научных публикаций.