Байесовские вероятностные модели лежат в основе многих современных продвинутых алгоритмов искусственного интеллекта. Поэтому, чтобы понимать их обоснование и, что более важно, совершенствовать их, нужно изучить теоретические основы и инструменты байесовских рассуждений. В данном курсе вы познакомитесь как с базовыми алгоритмами и концептами, такими как Expectation Maximization, Belief Propagation, Factor Graphs так и с их отражением в современных алгоритмах обучения с подкреплением, компьютерного зрения и больших языковых моделях. Данный курс предлагает своими руками, под чутким руководством преподавателей, провести основные теоретические выкладки и доказательства, а также реализовать некоторые модели в коде с использованием таких библиотек Python как Numpy, Pytorch и PGMax.

В курсе рассматриваются следующие темы:

1. Принцип максимизации правдоподобия вероятностной модели.
2. Байесовская теория вероятности.
3. EM-алгоритм и скрытые переменные.
4. Графическое представление вероятностных моделей.
5. Пример: марковское случайное поле.
6. Пример: внимание как вероятностная модель.
7. Вывод на графических моделях и Sum-Product алгоритм.
8. Пример: скрытые марковские цепи и алгоритм Баума-Велша.
9. Вариационный байесовский вывод.
10. Пример: вариационный автоэнкодер.
11. Активный вероятностный вывод и обучение с подкреплением.
12. Вероятностная интерпретация иерархии признаков в CNN.

Курс «Программные средства для задач искусственного интеллекта» представляет собой адаптационную программу, цель которой — предоставить студентам фундаментальные знания и единую теоретическую базу по основным программным средствам, применяемым в области искусственного интеллекта. Особое внимание уделяется языку программирования Python, который является одним из наиболее популярных и востребованных инструментов в данной сфере.

В рамках курса студенты получат практические навыки написания программ, научатся работать с различными библиотеками и модулями, необходимыми для разработки приложений в области искусственного интеллекта.

Курс включает в себя ряд практических заданий и проектов, которые позволят студентам применить полученные знания на практике и развить навыки работы в команде.

В курсе рассматриваются следующие темы:
1. Изолированная среда выполнения: изучение контейнеризации с помощью Docker, включая основные конструкции и принципы работы.
2. Стандарты кодирования и текстовая обработка: ознакомление с PEP8, регулярными выражениями и их применением.
3. Структуры данных и алгоритмы: работа со строками и алгоритмическими задачами.
4. Продвинутые концепции Python: функции, лямбда-выражения, декораторы, утверждения (assert), менеджеры контекста, соглашения об именовании (underscores и dunder-методы).
5. Математические вычисления и визуализация данных: использование библиотек NumPy и Matplotlib.
6. Статическая типизация и управление зависимостями: аннотации типов в Python, система MynkeyType, виртуальные окружения, упаковка и распространение пакетов.
7. Работа с конфигурационными форматами и валидацией данных: ArgParse, JSON/YAML, Pydantic.
8. Логирование и взаимодействие с внешними ресурсами: Loguru для ведения логов, BeautifulSoup и Requests для работы с веб-данными, Weights & Biases (Wandb) для отслеживания экспериментов.
9. Практическая реализация и контроль версий: консультации по проекту, разработка веб-приложений с Flask, основы работы с Git.
10. Фреймворк Ray для распределённых и параллельных вычислений
11. Работа с базами данных (БД)
12. Параллельные вычисления с помощью Python

Искусственный интеллект как научная дисциплина достаточно быстро в своем развитии подвергся разделению на две парадигмы – когнитивистскую и бионическую. Невероятные успехи последних лет в области глубокого машинного обучения, применения нейронных сетей и развития больших языковых моделей отодвинули на задний план вопрос изучения и необходимости применения логического подхода в разработке интеллектуальных систем. Однако история развития многих областей знаний показывает эффективность интеграции различных методов.

Курс посвящен классической когнитивистской парадигме, связывающей уровень интеллектуальности системы со степенью развития внутренней модели внешнего мира и характеризующей предпочтительным использованием символьных, в особенности, логических моделей в ИИ.

В курсе рассматриваются следующие темы:

1. Две парадигмы ИИ и их смены. Постулаты логической школы ИИ.
2. Инженерия знаний. Модели знаний в интеллектуальных системах. Семантические сети, когнитивные карты, онтологии. Схема DIKW.
3. Знания как отношения. Формальные определения отношений и предикатов. Основные свойства отношений. Классификация отношений.
4. Классическая логика как формальная система. Основные логические операции. Понятия, суждения и рассуждения. Факты и правила. Достоверные и правдоподобные факты. Виды продукционных правил. Продукционные системы.
5. Пополнение знаний в интеллектуальных системах: методы логического вывода. Достоверный и правдоподобный выводы. Методы научной индукции.
6. Роль логических моделей в ИИ. Функции логик в ИИ. Логический плюрализм. Основные законы и принципы классической логики.Ограничения классической логики в представлении знаний.
7. Логическая семантика. Модели истины и теория значения. Универсальная логика.
8. Неклассические логики и их приложения. Классификация нетрадиционных логик.
9. Трехзначные логики и их расширения: использование в информатике и искусственном интеллекте.
10. Многозначные логики и нечеткие логики в представлении НЕ-факторов знаний.
11. Модальные логики. Типы модальностей (положительные и отрицательные, слабые и сильные). Единое представление модальных логик в виде четырехзначных решеток (диаграмм Хассе).
12. Виды отношений в интеллектуальной деятельности и псевдофизические логики. Логики времени, пространства, действий и пр.

Глубокие нейронные сети – один из главных двигателей прогресса в области ИИ в последние десятилетия (наряду, безусловно, с большими наборами данных и подходящими аппаратными решениями). Например, сверточные нейронные сети произвели революцию в задачах компьютерного зрения, а механизм внимания и основанная на нём трансформерная архитектура нейросетей – в обработке естественного языка (и не только).

В рамках этого курса мы постараемся осмыслить основные идеи, которые привели к созданию успешных нейросетевых архитектур и пройти весь путь от (одиночного) перцептрона до трансформера.

В курсе рассматриваются следующие темы:

1. Искусственный нейрон, его устройство, сходства/различия с биологическим нейроном, функции активации
2. Ансамбли искусственных нейронов, нейронные сети (глубокие и нет), многоуровневый перцептрон, функция потерь и обратное распространение ошибки. Краткая история нейронных сетей. Типизация задач, решаемых с помощью глубокого обучения (классификация, регрессия, кластеризация и т.д.)
3. Различные компоненты и техники, применяемые для обучения нейронных сетей. Регуляризация, инициализация весов, дропаут, нормализация по батчам и др.
4. Сверточные нейронные сети. Карты признаков, свертки, субдескритазация (пулинг) и др. Полносверточные нейронные сети. Примеры применения: классификация объектов на изображениях, сегментация, восстановление глубины и пр.
5. Идея прямого соединения (skip connection). Архитектура ResNet (Residual Network)
6. Рекуррентные нейронные сети (RNN). Скрытое состояние, рекуррентные связи. Проблемы долгосрочных зависимостей. Применение RNN в задачах обработки последовательностей
7. Краткосрочная и долгосрочная память. Архитектура LSTM, GRU. Примеры применения: прогнозирование, обработка текста
8. Атокодировщики (Autoencoders). Основная идея: кодирование и декодирование. Применение для снижения размерности и шумоподавления. Вариационные автокодировщики (VAE)
9. Генеративные состязательные сети (GAN). Основная идея: генератор и дискриминатор. Обучение GAN: минимаксная игра. Примеры применения: генерация изображений, стилизация
10. Архитектуры для работы с графами (GNN). Применение: социальные сети, рекомендательные системы
11. Внимание (Attention). Механизм внимания: ключи, значения, запросы. Применение в задачах машинного перевода (Seq2Seq). Ограничения RNN и мотивация для трансформеров
12. Трансформеры (Transformers). Архитектура трансформеров. Варианты внимания. Известные модели: BERT, GPT. Вопросы длинного контекста
13. Трансформеры вне текстовых задач (робототехника, принятие решений, визуальные трансформеры и др.)
14. State Space Models (SSM). Основы SSM: линейные динамические системы. Применение в глубоком обучении. Сравнение с RNN и трансформерами
15. Современные нейронные сети для обработки изображений и видео
16. Современные нейронные сети для обработки звука и речи

Курс предназначен для ознакомления студентов с основами робототехники как междисциплинарной области, объединяющей математику, мехатронику, информатику и искусственный интеллект. В ходе занятий слушатели изучат современные направления развития робототехники, а также теоретические и практические аспекты управления роботами.

Особое внимание уделяется мобильным роботам, где рассматриваются математические методы, необходимые для реализации алгоритмов SLAM (одновременная локализация и построение карты).

Кроме того, курс охватывает вопросы кинематики и планирования для манипуляторов, что позволяет понимать принципы работы роботов с конечными звеньями.

Обзор сенсоров и методов обработки данных поможет студентам разобраться в вопросах восприятия окружающей среды роботами

Практическая часть курса предполагает работу в современных робототехнических симуляторах, таких как Mujoco, что обеспечивает возможность апробации теоретических знаний в виртуальной среде и подготовки к решению реальных инженерных задач.

В курсе рассматриваются следующие темы:

1. Введение в робототехнику: исторический обзор, основные понятия и актуальные задачи
2. Основы манипуляторов: кинематика
3. Дифференциальная кинематика манипуляторов
4. Анализ рабочих пространств и сингулярностей
5. Планирование траектории движения и основы управления
6. Введение в сенсоры: точность и ошибки измерений
7. Классификация сенсоров
8. Процедура калибровки сенсоров
9. Основы мобильной робототехники
10. Кинематические особенности мобильных роботов
11. Введение в использование робототехнических симуляторов
12. Принципы одновременной локализации и картирования
13. Методы локализации в робототехнике
14. Алгоритмы планирования траектории движения

Обучение с подкреплением является одним из видов методов приобретения знаний интеллектуальными системами и наиболее полно реализует агентную парадигму искусственного интеллекта. Обучение с подкреплением изначально предполагает наличие активного агента, который взаимодействует со средой и учится строить оптимальные планы достижения целей. Такая постановка обучения сближает ее с другим фундаментальным направление искусственного интеллекта – с планированием.

В данном вводном курсе будут введены основные понятия марковского процесса принятия решений и рассмотрены основные виды обучения с подкреплением: основанные на модели и безмодельные, основанные на стратегии и на функции полезности.

Будут подробно разобраны приближенные методы с нейросетевыми аппроксиматорами. Практическая часть курса будет использовать библиотеки, предоставляемые сообществом, будут разобраны актуальные алгоритмы обучения с подкреплением, такие как DQN, PPO, SAC, Dreamer и др.

В курсе рассматриваются следующие темы:

1. Введение в обучение с подкреплением. Марковский процесс принятия решений
2. Динамическое программирование: итерация по стратегиям и по полезности.
3. Базовые алгоритмы, основанные на функции полезности: TD, MC, Q-обучение
4. Аппроксимация функции полезности: DQN, Rainbow
5. Градиент стратегии: REINFORCE, Vanilla Policy Gradient
6. Методы семейства актор-критик: A2C
7. Монотонное улучшения стратегии: TRPO, PPO
8. Методы для непрерывного пространства действий DDPG, TD3, SAC
9. Интеграция планирования и обучения: MCTS, AlphaZero
10. Иерархическое обучение с подкреплением
11. Обучение на основе демонстраций: Dagger, BC, SQIL, GAIL, DQfD, R2D3, VPT
12. Обучение с подкреплением на основе модели мира: Dyna, MuZero, Dreamer
13. Целеориентированное и МЕТА обучение с подкреплением
14. Автономное обучение с подкреплением: CQL, ReBRAC, DT
15. Прикладное применение обучения с подкреплением

Целью дисциплины является изучение математических и теоретических основ компьютерного зрения, а также подготовка слушателей к дальнейшей самостоятельной работе в сфере решения практических задач обработки и распознавания изображений.

По итогам освоения дисциплины студенты должны иметь базовые знания о классических и нейросетевых алгоритмах компьютерного зрения, владеть основными методами работы с изображениями (методами локального сглаживания, ранговой и медианной фильтрации, гистограммного выравнивания и др.); навыками выделения особенностей изображений, а также сопоставления полученных особенностей; навыками построения нейросетевых моделей для задач классификации, обнаружения объектов и семантической сегментации; навыками определения показателей качества работы алгоритмов распознавания изображений; навыками применения современных программных пакетов и библиотек для реализации методов и алгоритмов компьютерного зрения.

В курсе рассматриваются следующие темы:

1. Введение в компьютерное зрение. Основные понятия
2. Математическое описание изображений
3. Алгоритмы предварительной обработки изображений и их программная реализация.
4. Интерполяция изображений, геометрия формирования изображения и калибровка камеры
5. Анализ контуров и объектов на изображении
6. Классические алгоритмы сегментации изображения и обнаружения объектов
7. Методы выделения и сопоставления ключевых точек на изображении.
8. Методы анализа стереопар изображений
9. Методы построения оптического потока по последовательности изображений
10. Текстурный анализ изображений
11. Современные методы классификации изображений и их программная реализация с применением библиотек глубокого обучения
12. Обнаружение объектов на изображении на основе глубоких нейронных сетей
13. Трекинг объектов на последовательности сенсорных данных
14. Компьютерное зрение для решения индустриальных и научных задач

Этот курс охватывает ключевые концепции обработки естественного языка (NLP), начиная от традиционных методов и заканчивая современными моделями глубокого обучения. Мы изучим векторные представления текста, языковые модели, механизмы внимания и трансформеры. Отдельное внимание будет уделено оптимизации вычислений, методам сжатия моделей, эффективному обучению и инференсу, а также мультимодальным моделям и агентам на основе больших языковых моделей (LLM).

В курсе рассматриваются следующие темы:
1. Введение в обработку естественного языка
- Основные задачи и области применения NLP
- Традиционные методы vs. глубокое обучение
- Основные этапы обработки текста
2. Регулярные выражения, токенизация и традиционные методы представления текста
- Регулярные выражения (Regex)
- Токенизация
- Bag-of-Words (BoW)
- Наивный байесовский классификатор
- TF-IDF
- n-граммы и поиск по тексту
3. Нейронные сети: основы
- Полносвязные нейронные сети (FNN)
- Основные принципы работы нейросетей
4. Векторные представления слов и сверточные сети
- Word2Vec, GloVe, FastText
- Сверточные нейронные сети (CNN) в NLP
5. Рекуррентные нейронные сети и их модификации
- RNN, LSTM, GRU, SRU
- Двунаправленные RNN
6. Архитектуры seq2seq, внимание и трансформеры
- Seq2seq модели
- Механизм внимания (Attention)
- Трансформеры и их эффективность
- Обучение с переносом (Transfer Learning)
7. Современные языковые модели: BERT, GPT, T5 и другие
- Абсолютное и относительное позиционное кодирование
- Архитектура и применение BERT, GPT, T5, XLNet
8. Эффективные трансформеры и оптимизация работы с LLM
- Разделение параметров (Parameter Sharing
- Механизмы KVC, GQA, Flash Attention
- Оптимизированные архитектуры: Paged Attention, MoE
- TorchCompile, LLAMA, Mistral, Gemma, Phi, MAMBA
9. Оптимизация вычислений, обучение и настройка моделей
- Распределенное обучение
- Квантизация моделей
- Дистилляция знаний
- Подготовка и предобработка данных
- Обучение на инструкциях (Instruction Tuning), PEFT
- Слияние весов моделей
- RLHF, DPO, оценка качества моделей
10. Инференс, промптинг и практическое применение LLM
- Эффективный инференс
- Промпт-инжиниринг: Few-shot, Zero-shot, Chain of Thought (CoT), Reasoning
- Применение LLM в Retrieval-Augmented Generation (RAG)
- Агенты на основе LLM
11. Мультимодальные модели и генерация контента
- CLIP, Chameleon, Pixtral, PaliGemma, Phi-3-Vision
- Stable Diffusion, 3D-моделирование и генерация
- Применение NLP в разработке игр