Тоби Сегаран - Программируем коллективный разум

.................................................... 252
Упражнения ........................................................................... 258

10. Выделение независимых признаков ................................... 259
Массив новостей ...................................................................... 260
Прошлые подходы ................................................................... 264
Неотрицательная матричная факторизация ................................ 267
Вывод результатов ................................................................... 273
Использование данных о фондовом рынке ................................... 277
Упражнения ........................................................................... 282

11. Эволюционирующий разум ................................................. 284
Что такое генетическое программирование .................................. 285
Программы как деревья ............................................................ 287
Создание начальной популяции ................................................. 292
Проверка решения ................................................................... 293
Мутация программ................................................................... 295
Скрещивание .......................................................................... 298
Построение окружающей среды ................................................. 300
Простая игра ........................................................................... 303
Направления развития ............................................................. 308
Упражнения ........................................................................... 311

12. Сводка алгоритмов .............................................................. 312
Байесовский классификатор...................................................... 312
Классификатор на базе деревьев решений.................................... 316
Нейронные сети ....................................................................... 320
Метод опорных векторов ........................................................... 324
k-ближайшие соседи ................................................................ 329
Кластеризация ........................................................................ 333
Многомерное шкалирование...................................................... 336
Неотрицательная матричная факторизация ................................ 338
Оптимизация .......................................................................... 341

Приложения .............................................................................. 344
А. Дополнительные библиотеки ............................................... 344
В. Математические формулы ................................................... 351
Алфавитный указатель............................................................. 358

Предисловие
Когда журнал Time выбрал в качестве человека 2006 года «вас»1, он утвердил
идею о том, что сущность Web 2.0 – это «контент, генерируемый пользователями», и что такие сайты, как Википедия, YouTube и MySpace, – это столпы революции, совершившейся с приходом Web 2.0. Но истина гораздо сложнее.
Тот контент, который пользователи вводят в Web 2.0 явно, – лишь самая верхушка айсберга. А 80% существенной информации скрыто в темных водах неявно образующихся данных.
Во многих отношениях определяющим моментом революции Web 2.0 стало
изобретение компанией Google «ранга страниц» (PageRank). Это стало результатом осознания того факта, что каждая ссылка во Всемирной паутине наполнена скрытым смыслом: ссылка – это голос в пользу важности сайта. Если принять во внимание сами голоса и относительную важность голосующих сайтов,
то результаты поиска оказываются лучше, чем при анализе одного лишь содержимого страниц. Именно этот прорыв вывел Google на путь, следуя по которому она стала одной из наиболее авторитетных технологических компаний нового столетия. Ранг страницы – один из сотен неявно учитываемых факторов,
которые Google оценивает, решая, как представить результаты поиска.
Никто не назовет компанию Google «генератором пользовательского контента», и тем не менее она, безусловно, находится в самом сердце Web 2.0. Вот
почему я предпочитаю считать краеугольным камнем этой революции «обуздание коллективного разума». Ссылка – это контент, генерируемый пользователями, а PageRank – способ извлечения смысла из этого контента. Это же относится и к алгоритму вычисления «интересности» на сайте Flickr, и к функции «те, кто купил этот товар, купили также» на Amazon, и к алгоритмам нахождения «похожих исполнителей» на Last.fm, и к системе репутационного
рейтингования на eBay, и к рекламной системе Google AdSense.
Я определяю Web 2.0 следующим образом: «методика проектирования систем,
которые путем учета сетевых взаимодействий становятся тем лучше, чем больше людей ими пользуются». Привлечение пользователей – первый шаг. Второй – обучение на основе действий пользователей и адаптация сайта в зависимости от того, какие действия пользователи совершают и на что они обращают
внимание.
В книге «Программируем коллективный разум» Тоби Сегаран рассматривает
алгоритмы и методы извлечения смысла из данных, в том числе и пользовательских. Это инструментарий --">