Освальдо Мартин - Байесовский анализ на Python

...................................................169
Регрессия с использованием функции softmax ............................................171
Дискриминативные и порождающие модели ..............................................173
Регрессия Пуассона .............................................................................................176
Распределение Пуассона ................................................................................176
Модель Пуассона с дополнением нулевыми значениями ...........................178

8



Содержание

Регрессия Пуассона и модель Пуассона с дополнением нулевыми
значениями .....................................................................................................179
Робастная логистическая регрессия ..................................................................181
Модуль GLM.........................................................................................................183
Резюме .................................................................................................................184
Упражнения.........................................................................................................185

Глава 5. Сравнение моделей ........................................................................188
Проверки прогнозируемого апостериорного распределения.........................188
Лезвие Оккама – простота и точность ..............................................................194
Лишние параметры приводят к переподгонке ............................................196
Недостаточное количество параметров приводит к недоподгонке ...........197
Баланс между простотой и точностью ..........................................................197
Измерения прогнозируемой точности .........................................................198
Информационные критерии .............................................................................200
Логарифмическая функция правдоподобия и отклонение .........................201
Информационный критерий Акаике ............................................................202
Часто применяемый информационный критерий ......................................202
Парето-сглаженная выборка по значимости для перекрестной
проверки LOOCV .............................................................................................203
Другие информационные критерии .............................................................203
Сравнение моделей с помощью библиотеки PyMC3 ...................................204
Усреднение моделей .......................................................................................207
Коэффициенты Байеса .......................................................................................210
Некоторые дополнительные замечания .......................................................212
Коэффициенты Байеса и информационные критерии ...............................216
Регуляризация априорных распределений ......................................................220
Более подробно об информационном критерии WAIC ...................................222
Энтропия .........................................................................................................222
Расхождение Кульбака–Лейблера..................................................................224
Резюме .................................................................................................................227
Упражнения.........................................................................................................228

Глава 6. Смешанные модели ........................................................................230
Смешанные модели ............................................................................................231
Конечные смешанные модели ...........................................................................232
Категориальное распределение ....................................................................234
Распределение Дирихле .................................................................................235
Неидентифицируемость смешанных моделей.............................................238
Как правильно выбрать число K ....................................................................241
Смешанные модели и кластеризация ...........................................................245
Смешанные модели с бесконечной размерностью ..........................................246
Процесс Дирихле ............................................................................................246
Непрерывные смешанные модели ....................................................................253

Содержание  9
Биномиальное бета-распределение и отрицательное биномиальное
распределение ................................................................................................254
t-распределение Стьюдента...........................................................................255
Резюме .................................................................................................................255
Упражнения.........................................................................................................257

Глава 7. Гауссовы процессы...........................................................................258
Линейные модели и нелинейные данные ........................................................258
Функции моделирования ...................................................................................259
Многомерные гауссовы распределения и функции.....................................261
Ковариационные функции и ядра .................................................................261
Гауссовы процессы .........................................................................................264
Регрессия на основе гауссовых процессов ........................................................265
Регрессия с пространственной автокорреляцией --">