说说什么是数据挖掘

何为数据挖掘?

数据挖掘就是指从数据中获取知识 。

　　好吧，这样的定义方式比较抽象，但这也是业界认可度最高的一种解释了。对于如何开发一个大数据环境下完整的数据挖掘项目，业界至今仍没有统一的规范。说白了，大家都听说过大数据、数据挖掘等概念，然而真正能做而且做好的公司并不是很多。

　　数据挖掘背后的哲学思想

　　在过去很多年， 首要原则模型 (first-principle models)是科学工程领域最为经典的模型。

　　比如你要想知道某辆车从启动到速度稳定行驶的距离，那么你会先统计从启动到稳定耗费的时间、稳定后的速度、加速度等参数；然后运用牛顿第二定律(或者其他物理学公式)建立模型；最后根据该车多次实验的结果列出方程组从而计算出模型的各个参数。

       通过该过程，你就相当于学习到了一个知识 --- 某辆车从启动到速度稳定行驶的具体模型。此后往该模型输入车的启动参数便可自动计算出该车达到稳定速度前行驶的距离。

　　然而，在数据挖掘的思想中，知识的学习是不需要通过具体问题的专业知识建模。如果之前已经记录下了 100辆型号性能相似的车 从启动到速度稳定行驶的距离，那么我就能够对这100个数据求均值，从而得到结果。显然，这一过程是是直接面向数据的，或者说我们是直接从数据开发模型的。

　　这其实是

　　模拟了人的原始学习过程

　　--- 比如你要预测一个人跑100米要多久时间，你肯定是根据之前了解的他(研究对象)这样体型的人跑100米用的多少时间做一个估计，而不会使用牛顿定律来算。

　　数据挖掘的起源

　　由于数据挖掘理论涉及到的面很广，它实际上起源于多个学科。如建模部分主要起源于统计学和机器学习。统计学方法以模型为驱动 ，常常建立一个能够产生数据的模型；而机器学习则以算法为驱动 ，让计算机通过执行算法来发现知识。仔细想想，"学习"本身就有算法的意思在里面嘛。

　　然而数据挖掘除了建模外，还有不少其他要做的工作(本文后面会一一讲到)，因此涉及到不少其他知识，如下图所示：

　　数据挖掘的基本任务

　　数据挖掘的两大基本目标是 预测 和 描述 数据。其中前者的计算机建模及实现过程通常被称为监督学习(supervised learning) ，后者的则通常被称为无监督学习(supervised learning) 。往更细分，数据挖掘的目标可以划分为以下这些：

　　预测主要包括分类 - 将样本划分到几个预定义类之一，回归 - 将样本映射到一个真实值预测变量上;描述主要包括聚类 - 将样本划分为不同类(无预定义类)，关联规则发现 - 发现数据集中不同特征的相关性。

　　数据挖掘的基本流程

　　从形式上来说，数据挖掘的开发流程是迭代式的。开发人员通过如下几个阶段对数据进行迭代式处理：

　　其中，

　　1. 解读需求

　　绝大多数的数据挖掘工程都是针对具体领域的，因此数据挖掘工作人员不应该沉浸在自己的世界里YY算法模型，而应该多和具体领域的专家交流合作以正确的解读出项目需求。这种合作应当贯穿整个项目生命周期。

　　2. 搜集数据

　　在大型公司，数据搜集大都是从其他业务系统数据库提取。很多时候我们是对数据进行抽样，在这种情况下必须理解数据的抽样过程是如何影响取样分布，以确保评估模型环节中用于训练(train)和检验(test)模型的数据来自同一个分布。

　　3. 预处理数据

　　预处理数据可主要分为数据准备和数据归约两部分。其中前者包含了缺失值处理、异常值处理、归一化、平整化、时间序列加权等；而后者主要包含维度归约、值归约、以及案例归约。

　　4. 评估模型

　　确切来说，这一步就是在不同的模型之间做出选择，找到最优模型。很多人认为这一步是数据挖掘的全部，但显然这是以偏概全的，甚至绝大多数情况下这一步耗费的时间和精力在整个流程里是最少的。

　　5. 解释模型

　　数据挖掘模型在大多数情况下是用来辅助决策的，人们显然不会根据"黑箱模型"来制定决策。如何针对具体环境对模型做出合理解释也是一项非常重要的任务。

来源：博客园

作者：穆晨