Введение в Data Mining
Исходные данные для Data Mining
Типы закономерностей, выявляемых методами Data Mining
Методы исследования данных в Data Mining
Ведущие производители средств Data Mining
В настоящей статье речь пойдет о Data Mining — технологии,
широко используемой в современном бизнес-анализе и способной при грамотном применении
принести предприятию немалую прибыль.
Что такое Data Mining
орпоративная база данных любого
современного предприятия обычно содержит набор таблиц, хранящих записи о тех
или иных фактах либо объектах (например, о товарах, их продажах, клиентах, счетах).
Как правило, каждая запись в подобной таблице описывает какой-то конкретный
объект или факт. Например, запись в таблице продаж отражает тот факт, что такой-то
товар продан такому-то клиенту тогда-то таким-то менеджером, и по большому счету
ничего, кроме этих сведений, не содержит. Однако совокупность большого количества
таких записей, накопленных за несколько лет, может стать источником дополнительной,
гораздо более ценной информации, которую нельзя получить на основе одной конкретной
записи, а именно — сведений о закономерностях, тенденциях или взаимозависимостях
между какими-либо данными. Примерами подобной информации являются сведения о
том, как зависят продажи определенного товара от дня недели, времени суток или
времени года, какие категории покупателей чаще всего приобретают тот или иной
товар, какая часть покупателей одного конкретного товара приобретает другой
конкретный товар, какая категория клиентов чаще всего вовремя не отдает предоставленный
кредит.
Подобного рода информация обычно используется при прогнозировании, стратегическом планировании, анализе рисков, и ценность ее для предприятия очень высока. Видимо, поэтому процесс ее поиска и получил название Data Mining (mining по-английски означает «добыча полезных ископаемых», а поиск закономерностей в огромном наборе фактических данных действительно сродни этому). Термин Data Mining обозначает не столько конкретную технологию, сколько сам процесс поиска корреляций, тенденций, взаимосвязей и закономерностей посредством различных математических и статистических алгоритмов: кластеризации, создания субвыборок, регрессионного и корреляционного анализа. Цель этого поиска — представить данные в виде, четко отражающем бизнес-процессы, а также построить модель, при помощи которой можно прогнозировать процессы, критичные для планирования бизнеса (например, динамику спроса на те или иные товары или услуги либо зависимость их приобретения от каких-то характеристик потребителя).
Отметим, что традиционная математическая статистика, долгое время остававшаяся основным инструментом анализа данных, равно как и средства оперативной аналитической обработки данных (online analytical processing, OLAP), о которых мы уже неоднократно писали (см. материалы на эту тему на нашем компакт-диске), не всегда могут успешно применяться для решения таких задач. Обычно статистические методы и OLAP используются для проверки заранее сформулированных гипотез. Однако нередко именно формулировка гипотезы оказывается самой сложной задачей при реализации бизнес-анализа для последующего принятия решений, поскольку далеко не все закономерности в данных очевидны с первого взгляда.
В основу современной технологии Data Mining положена концепция шаблонов, отражающих закономерности, свойственные подвыборкам данных. Поиск шаблонов производится методами, не использующими никаких априорных предположений об этих подвыборках. Если при статистическом анализе или при применении OLAP обычно формулируются вопросы типа «Каково среднее число неоплаченных счетов заказчиками данной услуги?», то применение Data Mining, как правило, то подразумевает ответы на вопросы типа «Существует ли типичная категория клиентов, не оплачивающих счета?». При этом именно ответ на второй вопрос нередко обеспечивает более нетривиальный подход к маркетинговой политике и к организации работы с клиентами.
Важной особенностью Data Mining является нестандартность и неочевидность разыскиваемых шаблонов. Иными словами, средства Data Mining отличаются от инструментов статистической обработки данных и средств OLAP тем, что вместо проверки заранее предполагаемых пользователями взаимозависимостей они на основании имеющихся данных способны находить такие взаимозависимости самостоятельно и строить гипотезы об их характере.
Следует отметить, что применение средств Data Mining не исключает использования статистических инструментов и OLAP-средств, поскольку результаты обработки данных с помощью последних, как правило, способствуют лучшему пониманию характера закономерностей, которые следует искать.
 |
|
Исходные данные для Data Mining
ППрименение Data Mining оправданно при наличии достаточно большого количества данных, в идеале — содержащихся в корректно спроектированном хранилище данных (собственно, сами хранилища данных обычно создаются для решения задач анализа и прогнозирования, связанных с поддержкой принятия решений). О принципах построения хранилищ данных мы также неоднократно писали; соответствующие материалы можно найти на нашем компакт-диске, поэтому на этом вопросе мы останавливаться не будем. Напомним лишь, что данные в хранилище представляют собой пополняемый набор, единый для всего предприятия и позволяющий восстановить картину его деятельности на любой момент времени. Отметим также, что структура данных хранилища проектируется таким образом, чтобы выполнение запросов к нему осуществлялось максимально эффективно. Впрочем, существуют средства Data Mining, способные выполнять поиск закономерностей, корреляций и тенденций не только в хранилищах данных, но и в OLAP-кубах, то есть в наборах предварительно обработанных статистических данных.
|
|
Типы закономерностей, выявляемых методами Data Mining
огласно В.А.Дюку [1], выделяют
пять стандартных типов закономерностей, выявляемых методами Data Mining:
• ассоциация — высокая вероятность связи событий друг с другом (например, один товар часто приобретается вместе с другим);
• последовательность — высокая вероятность цепочки связанных во времени событий (например, в течение определенного срока после приобретения одного товара будет с высокой степенью вероятности приобретен другой);
• классификация — имеются признаки, характеризующие группу, к которой принадлежит то или иное событие или объект (обычно при этом на основании анализа уже классифицированных событий формулируются некие правила);
• кластеризация — закономерность, сходная с классификацией и отличающаяся от нее тем, что сами группы при этом не заданы — они выявляются автоматически в процессе обработки данных;
• временные закономерности — наличие шаблонов в динамике поведения тех или иных данных (типичный пример — сезонные колебания спроса на те или иные товары либо услуги), используемых для прогнозирования.
|
|
Методы исследования данных в Data Mining
егодня существует довольно
большое количество разнообразных методов исследования данных. Основываясь на
вышеуказанной классификации, предложенной В.А.Дюком, среди них можно выделить:
• регрессионный, дисперсионный и корреляционный анализ (реализован в большинстве современных статистических пакетов, в частности в продуктах компаний SAS Institute, StatSoft и др.);
• методы анализа в конкретной предметной области, базирующиеся на эмпирических моделях (часто применяются, например, в недорогих средствах финансового анализа);
• нейросетевые алгоритмы, идея которых основана на аналогии с функционированием нервной ткани и заключается в том, что исходные параметры рассматриваются как сигналы, преобразующиеся в соответствии с имеющимися связями между «нейронами», а в качестве ответа, являющегося результатом анализа, рассматривается отклик всей сети на исходные данные. Связи в этом случае создаются с помощью так называемого обучения сети посредством выборки большого объема, содержащей как исходные данные, так и правильные ответы;
• алгоритмы — выбор близкого аналога исходных данных из уже имеющихся исторических данных. Называются также методом «ближайшего соседа»;
• деревья решений — иерархическая структура, базирующаяся на наборе вопросов, подразумевающих ответ «Да» или «Нет»; несмотря на то, что данный способ обработки данных далеко не всегда идеально находит существующие закономерности, он довольно часто используется в системах прогнозирования в силу наглядности получаемого ответа;
• кластерные модели (иногда также называемые моделями сегментации) применяются для объединения сходных событий в группы на основании сходных значений нескольких полей в наборе данных; также весьма популярны при создании систем прогнозирования;
• алгоритмы ограниченного перебора, вычисляющие частоты комбинаций простых логических событий в подгруппах данных;
• эволюционное программирование — поиск и генерация алгоритма, выражающего взаимозависимость данных, на основании изначально заданного алгоритма, модифицируемого в процессе поиска; иногда поиск взаимозависимостей осуществляется среди каких-либо определенных видов функций (например, полиномов).
Подробнее об этих и других алгоритмах Data Mining, а также о реализующих их
средствах можно прочесть в книге «Data Mining: учебный курс» В.А.Дюка и А.П.Самойленко,
выпущенной издательством «Питер» в 2001 году [2]. Сегодня это одна из немногих
книг на русском языке, посвященная данной проблеме. 
|
|
Ведущие производители средств Data Mining
редства Data Mining, как и
большинство средств Business Intelligence, традиционно относятся к дорогостоящим
программным инструментам — цена некоторых из них доходит до нескольких десятков
тысяч долларов. Поэтому до недавнего времени основными потребителями этой технологии
были банки, финансовые и страховые компании, крупные торговые предприятия, а
основными задачами, требующими применения Data Mining, считались оценка кредитных
и страховых рисков и выработка маркетинговой политики, тарифных планов и иных
принципов работы с клиентами. В последние годы ситуация претерпела определенные
изменения: на рынке программного обеспечения появились относительно недорогие
инструменты Data Mining от нескольких производителей, что сделало доступной
эту технологию для предприятий малого и среднего бизнеса, ранее о ней и не помышлявших.
К современным средствам Business Intelligence относятся генераторы отчетов, средства аналитической обработки данных, средства разработки BI-решений (BI Platforms) и так называемые Enterprise BI Suites — средства анализа и обработки данных масштаба предприятия, которые позволяют осуществлять комплекс действий, связанных с анализом данных и с созданием отчетов, и нередко включают интегрированный набор BI-инструментов и средства разработки BI-приложений. Последние, как правило, содержат в своем составе и средства построения отчетов, и OLAP-средства, а нередко — и Data Mining-средства.
По данным аналитиков Gartner Group, лидерами на рынке средств анализа и обработки данных масштаба предприятия являются компании Business Objects, Cognos, Information Builders, а претендуют на лидерство также Microsoft и Oracle (рис. 1). Что касается средств разработки BI-решений, то основными претендентами на лидерство в этой области являются компании Microsoft и SAS Institute (рис. 2).
Отметим, что средства Business Intelligence компании Microsoft относятся к сравнительно недорогим продуктам, доступным широкому кругу компаний. Именно поэтому мы и собираемся рассмотреть некоторые практические аспекты применения Data Mining на примере продуктов этой компании в последующих частях данной статьи.
Литература:
1. Дюк В.А. Data Mining — интеллектуальный анализ данных. — http://www.olap.ru/basic/dm2.asp.
2. Дюк В.А., Самойленко А.П. Data Mining: учебный курс. — СПб.: Питер, 2001.
3. B. de Ville. Microsoft Data Mining. Digital Press, 2001.
