Библиотека Keras — инструмент глубокого обучения : реализация нейронных сетей с помощью библиотек Theano и TensorFlow

Содержание книги "Библиотека Keras — инструмент глубокого обучения : реализация нейронных сетей с помощью библиотек Theano и TensorFlow"

Об авторах
О рецензенте
Предисловие
Назначение
Чем глубокое обучение отличается от машинного обучения и искусственного интеллекта
Краткое содержание книги
Что необходимо для чтения книги
На кого рассчитана эта книга
Графические выделения
Отзывы
Поддержка клиентов
Загрузка кода примеров
Загрузка цветных иллюстраций
Опечатки
Нарушение авторских прав
Вопросы
Глава 1. Основы нейронных сетей
Перцептрон
Первый пример кода с использованием Keras
Многослойный перцептрон – первый пример нейросети
Проблемы обучения перцептрона и их решение
Сигмоида
Блок линейной ректификации
Функции активации
Реальный пример – распознавание рукописных цифр
Унитарное кодирование
Определение простой нейронной сети в Keras
Прогон простой сети Keras и создание эталона для сравнения
Улучшение простой сети в Keras посредством добавления скрытых слоев
Дальнейшее улучшение простой сети Keras с помощью прореживания
Тестирование различных оптимизаторов в Keras
Увеличение числа периодов
Управление скоростью обучения оптимизатора
Увеличение числа нейронов в скрытых слоях
Увеличение размера пакета
Подведение итогов экспериментов по распознаванию рукописных цифр
Применение регуляризации для предотвращения переобучения
Настройка гиперпараметров
Предсказание выхода
Практическое изложение алгоритма обратного распространения
В направлении глубокого обучения
Резюме
Глава 2. Установка Keras и описание API
Установка Keras
Шаг 1 – установка зависимостей
Шаг 2 – установка Theano
Шаг 3 – установка TensorFlow
Шаг 4 – установка Keras
Шаг 5 – проверка работоспособности Theano, TensorFlow и Keras
Настройка Keras
Установка Keras в контейнер Docker
Установка Keras в Google Cloud ML
Установка Keras в Amazon AWS
Установка Keras в Microsoft Azure
Keras API
Введение в архитектуру Keras
Обзор готовых слоев нейронных сетей
Обзор готовых функций активации
Обзор функций потерь
Обзор показателей качества
Обзор оптимизаторов
Некоторые полезные операции
Резюме
Глава 3. Глубокое обучение с применением сверточных сетей
Глубокая сверточная нейронная сеть
Локальные рецептивные поля
Разделяемые веса и смещения
Пулинговые слои
Промежуточные итоги
Пример ГСНС – LeNet
Код LeNet в Keras
О силе глубокого обучения
Распознавание изображений из набора CIFAR-10 с помощью глубокого обучения
Повышение качества распознавания набора CIFAR-10 путем углубления сети
Повышение качества распознавания набора CIFAR-10 путем пополнения данных
Предсказание на основе результатов обучения на наборе CIFAR-10
Очень глубокие сверточные сети для распознавания больших изображений
Распознавание кошек с помощью сети VGG-16
Использование встроенного в Keras модуля VGG-16
Использование готовых моделей глубокого обучения для выделения признаков
Очень глубокая сеть inception-v3, применяемая для переноса обучения
Резюме
Глава 4. Порождающие состязательные сети и WaveNet
Что такое ПСС?
Некоторые приложения ПСС
Глубокие сверточные порождающие состязательные сети
Применение Keras adversarial для создания ПСС, подделывающей MNIST
Применение Keras adversarial для создания ПСС, подделывающей CIFAR
WaveNet – порождающая модель для обучения генерации звука
Резюме
Глава 5. Погружения слов
Распределенные представления
word2vec
Модель skip-грамм
Модель CBOW
Извлечение погружений word2vec из модели
Сторонние реализации word2vec
Введение в GloVe
Использование предобученных погружений
Обучение погружений с нуля
Настройка погружений на основе предобученной модели word2vec
Настройка погружений на основе предобученной модели GloVe
Поиск погружений
Резюме
Глава 6. Рекуррентная нейронная сеть – РНС
Простые ячейки РНС
Простая РНС с применением Keras – порождение текста
Топологии РНС
Проблема исчезающего и взрывного градиента
Долгая краткосрочная память – LSTM
Пример LSTM – анализ эмоциональной окраски
Вентильный рекуррентный блок – GRU
Пример GRU – частеречная разметка
Двунаправленные РНС
РНС с запоминанием состояния
Пример LSTM с запоминанием состояния – предсказание потребления электричества
Другие варианты РНС
Резюме
Глава 7. Дополнительные модели машинного обучения
Функциональный API Keras
Регрессионные сети
Пример регрессии – предсказание содержания бензола в воздухе
Обучение без учителя – автокодировщики
Пример автокодировщика – векторы предложений
Композиция глубоких сетей
Пример – сеть с памятью для ответов на вопросы
Расширение Keras
Пример – использование слоя lambda
Пример – построение пользовательского слоя нормировки
Порождающие модели
Пример – глубокие сновидения
Пример – перенос стиля
Резюме
Глава 8. Искусственный интеллект играет в игры
Обучение с подкреплением
Максимизация будущих вознаграждений
Q-обучение
Глубокая Q-сеть как Q-функция
Баланс между исследованием и использованием
Воспроизведение опыта
Пример – глубокая Q-сеть для поимки мяча
Что дальше?
Резюме
Заключение
Keras 2.0 – что нового
Установка Keras 2.0
Изменения API