Лекции

Лекционный курс строится от оснований нейроинформатики к практическому обучению, архитектурам и современным вероятностным моделям.

Основной маршрут

ВведениеМатериал: Введение.1. Основные теоремы нейроинформатикиМатериал: Основные теоремы нейроинформатики.2. Формальное описание искусственных нейронных сетейМатериал: Формальное описание искусственных нейронных сетей.3. Вычисления на графеМатериал: Вычисления на графе.4. Обучение как задача многомерной оптимизацииМатериал: Обучение как задача многомерной оптимизации.5. Общая схема градиентного обученияМатериал: Общая схема градиентного обучения.6. Автоматическое дифференцированиеМатериал: Автоматическое дифференцирование.7. Практические методы градиентного обученияМатериал: Практические методы градиентного обучения.8. Настройка обучения и выбор оптимизатораМатериал: Настройка обучения и выбор оптимизатора.9. Стандартные вычислительные блоки нейросетейМатериал: Стандартные вычислительные блоки нейросетей.10. Методы регуляризацииМатериал: Методы регуляризации.11. Обучение без учителяМатериал: Обучение без учителя.12. Сверточные сетиМатериал: Сверточные сети.13. Рекуррентные сетиМатериал: Рекуррентные сети.14. ТрансформерыМатериал: Трансформеры.15. Обучение с подкреплениемМатериал: Обучение с подкреплением.16. Диффузионные моделиМатериал: Диффузионные модели.

Приложения

Приложение: теорема КолмогороваМатериал: Приложение: теорема Колмогорова.Приложение: фундаментальные теоремыМатериал: Приложение: фундаментальные теоремы.Приложение: вычисление производныхМатериал: Приложение: вычисление производных.Приложение: задача языкового моделированияМатериал: Приложение: задача языкового моделирования.