Биологически правдоподобные
алгоритмы обучения

It is necessary to choose a visual aid that is appropriate for the material and audience.
Многие алгоритмы машинного обучения, особенно столь популярные сейчас нейронные сети, заимствуют идеи своей эффективной работы из знаний нейрофизиологов о том, как работает наш мозг. Оказывается, что среди огромного количества информации о генах, нейронах, синапсах и нейромедиаторах можно выделять вполне конкретные принципы того, как учится и принимает решения наш мозг. Среди этих принципов такие, как иерархичность, наличие обратной связи, послойное обучение, латеральное подавление и др. Объединить эти идеи и воплотить их в новом алгоритме управления техническим устройством (как говорят, построить нейроморфный алгоритм) — задача этого проекта.

Одной из ключевых технологий, которой мы пользуемся в данном направлении, фреймворк иерархической временной памяти - HTM. Это развивающееся направление пока не адаптировано к динамическим системам и не поддерживает идею обучения с подкреплением. Расширение HTM в этом направлении - одна из ключевых тем.
Публикации
  • Hawkins J., Ahmad S., Cui Y. A Theory of How Columns in the Neocortex Enable Learning the Structure of the World // Frontiers in Neural Circuits. 2017. Vol. 11. P. 1–18. Ссылка
  • Nugamanov E., Panov A.I. Hierarchical Temporal Memory with Reinforcement Learning // Procedia Computer Science. 2020. Vol. 169. P. 123–131. ScienceDirect
  • Градсков А.А., Панов А.И. Капсульные графы вычислений в задаче обучения с подкреплением // Восьмая Международная конференция «Системный анализ и информационные технологии» САИТ – 2019 (8 – 14 июля 2019 г., г. Иркутск - Листвянка, Россия): Труды конференции. М.: ФИЦ ИУ РАН, 2019. С. 207–211.
  • Daylidyonok I., Frolenkova A., Panov A.I. Extended Hierarchical Temporal Memory for Motion Anomaly Detection // Biologically Inspired Cognitive Architectures 2018. BICA 2018. Advances in Intelligent Systems and Computing / ed. Samsonovich A. V. Springer, 2019. Vol. 848. P. 69–81. Springer
  • George D., Hawkins J. Towards a mathematical theory of cortical micro-circuits // PLoS Comput. Biol. 2009. Vol. 5, № 10. P. e1000532.
Презентации
  • Капсульные сети - САИТ-2019. Слайды
  • HTM для детекции аномалий движений - BICA-2018. Слайды
Необходимые умения для стажеров
  • Владение Python
  • Технический английский
  • Умение формулировать формальные утверждения
  • Интерес к биологии приветствуется
Темы научно-исследовательских проектов
  • Гетерархическая временная память
  • Иерархическая временная память с подкреплением
  • Визуализация кортикоморфных архитектур
  • Спайковые нейресетевые архитектуры
  • Марковское и байесовское представления иерархической временной памяти
Ключевые слова
HTM, глубокие нейронные сети, неокогнитрон, машинное обучение, нейронные сети, сверточные сети, самоорганизующиеся карты, каузальные сети, правила Хэбба, резонанс Гроссберга, байесовские сети.
What we do
Our goal is to make clients happy and help them get what they want
Visual Research
Tilda Publishing
Digital Storytelling
The Future