Оглавление
Введение 3
1. ОСНОВНЫЕ ПОНЯТИЯ И ОБЛАСТИ ПРИМЕНЕНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 5
1.1 Определения и терминология 5
1.2 Свойства биологических нейронных сетей 7
1.3 История развития нейрокомпьютерных вычислений 11
1.4 Области применения искусственных нейронных сетей 14
1.5 Классификация нейронных сетей 19
1.6 Нейросеть — виртуальная модель мультипроцессорной системы 22
1.7 Формальная модель нейрона 23
1.7.1 Биологический нейрон 23
1.7.2 Понятие искусственного нейрона 25
1.7.3 Основные типы функций активации 26
1.7.4 Нейрон с векторным входом 28
1.7.5 Архитектура нейронных сетей 29
1.8 Алгоритм обучения нейронной сети 31
1.8.1 Алгоритм работы метода обратного распространения ошибки для пакетного режима обучения 32
1.9 Сверточные нейронные сети 34
1.9.1 Архитектура сверточной нейронной сети 35
1.9.2 Сверточный слой 36
1.9.3 Подвыборочный слой 37
1.9.4 Полносвязный слой 38
1.9.5 Преимущества и недостатки сверточных сетей 39
2 ПРОЕКТИРОВАНИЕ И РЕАЛИЗАЦИЯ 40
2.1 Обучающая выборка vk-captcha 40
2.2 Подбор архитектуры свёрточной нейронной сети 41
2.3 Обзор библиотек машинного обучения 41
2.4 Реализация простой нейронной сети 44
2.5 Реализация сверточной нейронной сети 50
2.6 Обзор основных блоков разрабатываемой системы 56
2.7 Оценка результатов 57
2.8 Демонстрация работы прикладного приложения 58
ЗАКЛЮЧЕНИЕ 60
Список литературы 61