Биологически-правдоподобные модели обучения
Новые архитектуры нейронных сетей могут быть построены с привлечением идей из нейрофизиологии. Особенно перспективными могут оказаться иерархические модели на основе хеббовских правил обучения и модели внутренней мотивации для ускорения обучения.
Семинар 29. Активный вывод в обучении с подкреплениеми развитие архитектуры HIMA на его основе | Пётр Кудеров, Евгений Дживеликян, Артём Латышев
Необходимые умения
  • Сильная математическая подготовка (курсы математической статистики, дискретной математики, теории алгоритмов)
  • Понимание принципов машинного обучения
  • Отличное знание Python
  • Уверенное владение нейросетевыми фреймворками (PyTorch, Tensorflow)
  • Опыт работы с большими нейросетевыми моделями
Публикации
  • Kuderov P., Panov A. Planning with Hierarchical Temporal Memory for Deterministic Markov Decision Problem // Proceedings of the 13th International Conference on Agents and Artificial Intelligence / ed. Rocha A.P., Steels L., Herik J. van den. SCITEPRESS - Science and Technology Publications, 2021. Vol. 2. P. 1073–1081.
  • Rodkin I., Kuderov P., Panov A.I. Stability and Similarity Detection for the Biologically Inspired Temporal Pooler Algorithms // Procedia Computer Science. 2023. P. (In Press).
  • Dzhivelikian E. et al. Hierarchical intrinsically motivated agent planning behavior with dreaming in grid environments // Brain Informatics. 2022. Vol. 9, № 1. P. 8.
Темы исследовательских проектов
  • Вероятностные модели иерархической временной памяти
  • Модели внимания для запоминания длинных последовательностей
  • Модели мотивации в обучении с подкреплением на основе модели