马上注册,结交更多数据大咖,获取更多知识干货,轻松玩转大数据
您需要 登录 才可以下载或查看,没有帐号?立即注册
x
文 / 范思软件总经理 范煜
作者:范思软件总经理 范煜
来自:新软件MP
大数据重要性虽然已成为社会共识,但如何利用大数据却是百花齐放、百家争鸣。随着探讨的深入,专家院士们似乎在一个问题上意见达成一致:大数据应用的前提是必须要有目标。 中国科学院院士徐宗本在一次活动上的发言被大家在微信传播,他对大数据应用的看法,浓缩一下,就是“明确目标是前提、拥有数据是基础、计算平台是支撑、分析技术是核心、产生效益是根本”,这段话听起来没有什么问题,我对后面几句也是赞同的,关键在第一句:明确目标是前提,如果按这句话做的话,大数据应用将无从开展,因为确定目标本身就是一件很复杂和很重要的工作。 大家都习惯把数据比作石油,那就以石油开采为例分析一下以目标为前提的问题。对石油开采,徐院士的话可以模仿改为“明确井位是前提,采出石油是根本”。大家知道,如果在油田上方钻井,是很容易开采出石油的,关键是诺大个世界,哪里才是油田?哪里是井位?所以才有地质勘探这项工作。石油公司在石油勘探上花的钱比钻井多的多,而且很多钻井是用于辅助地质勘探的探井。因此,确定目标才是最费功夫的事。如果能够轻易确定目标,好比大庆油田只要王进喜这些钻探工人就行了,要李四光这些地质学家干什么。 因此,在大数据应用中,在做传统的基于目标(或称方向)的数据挖据工作之前,还需要做类似地质勘探的工作,称为无方向数据挖掘,也称为探索式数据挖掘,来找到目标。 大数据应用应该是多目标的,单目标常常会冒很大风险。以最近马云宣传的ET工业大脑的成果为例,他们为苏州协鑫光伏做的数据挖掘工作,使产品合格率提高了1个百分点,能够产生1个亿的效益,因此是一个成功的大数据应用案例。但这个以提高产品合格率为目标的大数据应用成功有一定偶然性,成功难以被复制。我们可以设想,如果ET工业大脑没有将合格率提高1%,而仅仅提高了0.01%;或者客户一个产品或产品线的营业收入达不到100亿,只有1亿;那虽然也能为客户带来100万的收益,但可能就不能覆盖项目开发成本。 既然大数据应用有价值,那么,一个企业会有许多可以产生价值的潜在目标,关键是对这些目标无法判断哪个目标更重要?哪个更有价值?哪个成本效益更高?判断哪个目标的数据挖掘成功率更高,效果更好?因此,如何选择目标?目标选择的标准是什么?选中的目标没有达到预期如何办?等等,这些问题都会使决策者犹豫,影响项目投入决心。 在大数据应用中,数据的采集和处理要占据主要成本,最高可达80%。如果为每次目标去采集和处理数据,而不同目标的数据及数据处理结果不能共享,将导致大量重复性工作,增加大数据应用的成本。如果同一组数据可以面向多个目标,则成本可以节约很多。因此,先有数据,再通过无方向数据挖掘寻找目标,然后对具体目标建模,进行数据挖掘,才是解决大数据应用的正确之道。
|