Новые архитектуры нейронных сетей могут быть построены с привлечением идей из нейрофизиологии. Особенно перспективными могут оказаться иерархические модели на основе хеббовских правил обучения и модели внутренней мотивации для ускорения обучения.
Семинар 29. Активный вывод в обучении с подкреплениеми развитие архитектуры HIMA на его основе | Пётр Кудеров, Евгений Дживеликян, Артём Латышев
Сильная математическая подготовка (курсы математической статистики, дискретной математики, теории алгоритмов)
Понимание принципов машинного обучения
Отличное знание Python
Уверенное владение нейросетевыми фреймворками (PyTorch, Tensorflow)
Опыт работы с большими нейросетевыми моделями
Kuderov P., Panov A. Planning with Hierarchical Temporal Memory for Deterministic Markov Decision Problem // Proceedings of the 13th International Conference on Agents and Artificial Intelligence / ed. Rocha A.P., Steels L., Herik J. van den. SCITEPRESS - Science and Technology Publications, 2021. Vol. 2. P. 1073–1081.
Rodkin I., Kuderov P., Panov A.I. Stability and Similarity Detection for the Biologically Inspired Temporal Pooler Algorithms // Procedia Computer Science. 2023. P. (In Press).
Dzhivelikian E. et al. Hierarchical intrinsically motivated agent planning behavior with dreaming in grid environments // Brain Informatics. 2022. Vol. 9, № 1. P. 8.
Вероятностные модели иерархической временной памяти
Модели внимания для запоминания длинных последовательностей
Модели мотивации в обучении с подкреплением на основе модели