С. Николенко , А. Кадурин , Е. Архангельская - Глубокое обучение

. . . . . . . . . .

.176
.177
.182
.199
.206
.214
.219

Часть II.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

Основные архитектуры

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

Глава 6. Рекуррентные нейронные сети,
или Как правильно кусать себя за хвост . . . . .
6.1. Мотивация: обработка последовательностей . . .
6.2. Распространение ошибки и архитектуры RNN .
6.3. LSTM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.4. GRU и другие варианты . . . . . . . . . . . . . . . . . .
6.5. SCRN и другие: долгая память в обычных RNN .
6.6. Пример: порождаем текст символ за символом .

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.231
.232
.236
.242
.249
.253
.259

Глава 7. Как научить компьютер читать,
или Математик − Мужчина + Женщина = ... . . . . . . .
7.1. Интеллектуальная обработка текстов . . . . . . . . . . . . . .
7.2. Распределенные представления слов: word2vec . . . . . . .
7.3. Русскоязычный word2vec на практике . . . . . . . . . . . . .
7.4. GloVe: раскладываем матрицу правильно . . . . . . . . . . .
7.5. Вверх и вниз от представлений слов . . . . . . . . . . . . . . .
7.6. Рекурсивные нейронные сети и синтаксический разбор

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.278
.279
.285
.297
.305
.313
.322

Глава 8. Современные архитектуры, или Как в споре рождается истина
8.1. Модели с вниманием и encoder-decoder . . . . . . . . . . . . . . . . . .
8.2. Порождающие модели и глубокое обучение . . . . . . . . . . . . . . .
8.3. Состязательные сети . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.4. Практический пример и трюк с логистическим сигмоидом . . . .
8.5. Архитектуры, основанные на GAN . . . . . . . . . . . . . . . . . . . . . .

.
.
.
.
.
.

.
.
.
.
.
.

.330
.331
.341
.348
.353
.359

Глава 9. Глубокое обучение с подкреплением,
или Удивительное происшествие с чемпионом
9.1. Обучение с подкреплением. . . . . . . . . . . . . . . .
9.2. Марковские процессы принятия решений. . . . .
9.3. От TDGammon к DQN . . . . . . . . . . . . . . . . . . .
9.4. Бамбуковая хлопушка . . . . . . . . . . . . . . . . . . .
9.5. Градиент по стратегиям и другие применения . .

Часть III.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

Новые архитектуры и применения

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.

.372
.373
.379
.391
.399
.405

Глава 10. Нейробайесовские методы,
или Прошлое и будущее машинного обучения . . . . . .
10.1. Теорема Байеса и нейронные сети . . . . . . . . . . . . . . . .
10.2. Алгоритм EM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.3. Вариационные приближения . . . . . . . . . . . . . . . . . . .
10.4. Вариационный автокодировщик . . . . . . . . . . . . . . . . .
10.5. Байесовские нейронные сети и дропаут. . . . . . . . . . . .
10.6. Заключение: что не вошло в книгу и что будет дальше .

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.
.

.409
.410
.412
.419
.426
.438
.446

Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .450
Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .451

Часть I
Как обучать нейронные сети

Глава 1

От биологии к информатике,
или We need to go deeper

TL;DR
Первая глава — вводная. В ней мы:
• узнаем, что в машинном обучении недавно произошла революция и революция эта все еще длится;
• вспомним историю искусственного интеллекта как науки;
• познакомимся с разными задачами машинного обучения, узнаем, как они
связаны и чем отличаются друг от друга;
• выясним, почему человеческий мозг может служить образцом для подражания при создании --">