Тема 1. Введение в нейронные сети (2 ак.ч.)

• Понятие машинного обучения
• Основные виды машинного обучения
• Задачи классификации и регрессии
• Биологическая модель нейрона
• Основные принципы работы мозга
• Понятие искусственной нейронной сети
• Архитектура нейронных сетей
• Виды нейронных сетей
• Этапы построения нейронной сети
• Области применения нейронных сетей
• Преимущества и недостатки нейронных сетей

Тема 2. Математическая модель искусственного нейрона (2 ак.ч.)

• Математическая модель нейрона
• Сравнение биологической и искусственной нейронной сети
• Выбор функции активации
• Требования к функции активации
• Униполярная пороговая функция активации
• Биполярная пороговая функция активации
• Сравнение униполярной и биполярной функций активации
• Решение задачи классификации с помощью модели нейрона
• Проблема линейной неразделимости в задачах классификации
• Решение проблемы линейной неразделимости
• Сигмоидальная функция активации
• Гиперболический тангенс
• Линейная функция активации
• Кусочно-линейные функции активации
• Решение задачи регрессии нейросетью
• Решение задачи классификации нейросетью
• Функция активации софтмакс

Тема 3. Алгоритм градиентного спуска для обучения нейронной сети (2 ак.ч.)

• Обучающая выборка
• Требования к обучающей выборке
• Задача обучения нейронной сети
• Критерий ошибки в задаче регрессии
• Критерий ошибки в задаче классификации
• Функция ошибки и ее аргументы
• Понятие спуска по функции ошибки
• Минимумы функции ошибки
• Производная и градиент функции ошибки
• Градиентный спуск
• Ограничения метода градиентного спуска
• Решение проблемы локальных минимумов
• Градиентный спуск на квадратичной поверхности
• Влияние скорости на градиентный спуск
• Градиентный спуск с инерцией

Тема 4. Настройка обучения нейронной сети (2 ак.ч.)

• Подготовка данных перед обучением нейронной сети
• Влияние уклона функции ошибки на обучение сети
• Влияние формы функции ошибки на обучение сети
• Способы подготовки данных
• Выбор начальных параметров нейронов
• Выбор режима обучения сети
• Свойства режимов обучения
• Проблемы переобучения и недообучения модели
• Причины переобучения модели
• Склонность многослойных сетей к переобучению
• Метод кросс-проверки
• Выбор архитектуры сети с помощью кросс-проверки
• Оценка качества сети с помощью кросс-проверки
• Анализ ошибок в процессе обучения модели
• Устранение переобучения и недообучения модели

Тема 5. Построение многослойных перцептронов в SPSS (4 ак.ч.)

• Этапы построения нейронной сети в SPSS
• Подготовка данных
• Представление категориальных данных
• Представление количественных данных
• Процедура Многослойный перцептрон
• Сводка обработки и информация о сети
• Настройка вывода информации о сети
• Сводка для модели и таблица классификации
• Исследование ROC-кривой
• Исследование диаграммы выигрышей
• Исследование диаграммы точности прогнозов
• Исследование важности независимых переменных
• Управление разделением выборки
• Управление архитектурой сети
• Управление процессом обучения
• Критерии остановки обучения
• Сохранение результатов Экспорт модели

Тема 6. Построение сетей радиальных базисных функций в SPSS (2 ак.ч.)

• Архитектура сети радиальных базисных функций
• Радиальная базисная функция
• Нормализованная радиальная базисная функция
• Функция ошибки сети РБФ
• Алгоритм обучения сети РБФ
• Определение параметров скрытого слоя
• Определение параметров выходного слоя
• Определение числа нейронов в скрытом слое
• Сравнение сети РБФ и многослойного перцептрона
• Процедура радиальная базисная функция
• Управление архитектурой сети

Практическая работа (2 ак.ч.)