《企业大数据系统构建实战：技术、架构、实施与应用》一导读

Preface 前　　言

为什么要写这本书
随着2013年大数据元年的开启，各行各业都已经将大数据视为推动企业发展、推进行业进步、加快产业升级、促进民生繁荣、巩固社会安全甚至提升国家竞争力的核心武器。从个性化推荐、关联销售到精准营销，从云平台、云服务、云计算到大数据产业链，从百度迁徙、高考预测到冬季流感预测，从机器学习、图像识别到智能交通，从奥巴马总统竞选到美国中央情报局反恐，从美国的大数据研究和发展计划到中国的促进大数据发展行动纲要等一系列事实说明了大数据正受到来自政治、经济、社会、文化、军事等各个领域的广泛关注，并越来越彰显其巨大价值。
大数据不仅是一个技术名词，更是当下企业资产、核心竞争力、完整产业链和先进生产力的代名词。因此，大数据应该是作为一个整合概念和体系被认知，而非独立的方法论、技术论甚至应用论。处于飞速变革时代的中国，在大数据产业链各个环节的企事业单位受限于自身产业属性、盈利模式、利益趋向、认知、能力等，无法完整地展示出大数据的知识图谱与价值图谱。
纵观当下整个大数据认知取向，大致有三类基本认知点：
第一类是大数据知识论，这种认知以大数据方法、理论、知识的研究和推导为聚焦点，通过深度学习，归纳、总结出大数据知识体系。这是典型的学院派，优势是对基础理论研究非常透彻并且具备深厚的理论基础，不足之处是缺乏对产业、学术、应用的结合，更缺少真正能落地的应用案例。
第二类是大数据技术论，这种认知以大数据技术为聚焦点，落脚于大数据的硬件、服务、架构、开发、计算、算法等具体实施层面。诚然，大数据技术是大数据实施的核心，也是带来技术变革和生产力突破的关键，但只有技术而缺乏正确的方向以及有价值的应用引导，技术便无法发挥作用，更无法转化为经济价值、社会价值和政治价值。
第三类是大数据应用论，这种认知以大数据的场景化为聚焦点，通过对历史、现在、未来的变革、创新和实践的总结和构想，营造出大数据的丰富应用场景和能力空间。这是一种典型的以应用为驱动的认知理论，通过落地案例驱动技术来表现大数据的巨大价值。但这种应用论过于专注场景化包装，更强调落地而忽视技术的巨大潜力和推动作用，更无法体现出大数据作为企业资产、技术竞争力等非直接利润表现的价值因素。
本书的几位联合作者彼此是共事多年的朋友，各自负责大数据工作中的不同环节。大家的工作和知识有交集更有互补，因此，我们认为只有依靠这种“知识合并”和“知识互补”的关系才能够呈现出大数据的全貌，这也是撰写本书的出发点之一。
当前，市场上有非常多关于大数据的书籍，但能从整体性、全局性、安全性、价值性、技术性、体系性等方面完整考虑的书非常少。我们希望通过本书让读者认识到大数据不仅仅是数据、技术、架构、应用，更是结合了商业模式、战略定位、信息安全、单位协同、组织保障、实施选型的完整体系。
几位联合作者对于本书内容的贡献如下：吕兆星撰写了技术的架构部分，包括第4章、第5章、第6章；郑传峰撰写了战略和应用的部分，包括第1章、第2章、第9章；宋天龙撰写了数据和价值评估的部分，包括第3章、第8章、第10章、第11章、第12章、第13章；杨晓鹏撰写了技术开发的部分中第7章的全部内容。
作者简介
吕兆星（Ethan Lv）
资深大数据技术专家，精通基于大数据的分布式数据挖掘、存储、计算技术，以及其生态体系架构；精通垂直搜索技术、机器学习、文本情感倾向性挖掘、网络爬虫、全文索引体系架构。曾任软通动力集团大数据研究院总架构师、HiveCloud创始人、萝卜网CTO、国美在线大数据中心高级架构师等。
主导研发的大数据和文本挖掘平台包括：DMP、DSP、推荐系统、决策运营系统、iCreations系列产品、蜂棱系列产品、军犬舆情系列产品等。并成功应用到能源、电力、电商、电信、金融、政府、食品、医疗保健等行业与机构，覆盖超过500家各级企业用户。所著《基于机器学习的数据挖掘模型》获得国家级技术创新基金。
郑传峰（Peter Zheng）
大数据业务应用领域专家，主导大数据方向的战略规划，包括数据产品、数据应用、数据价值变现等方向。曾任软通动力数据科技公司资深数据应用专家，HiveCloud首席战略官。
阶段性负责国美电器、国美在线，以及库巴网会员营销、网站运营和产品设计工作，在CRM系统、DMP数据平台、精准营销系统、广告精投、能源大数据拥有多年的操盘经验，涉及大数据上层应用服务产品的设计、咨询和实施。参与多家大型企业或机构的大数据战略规划和实施，行业覆盖零售、电商、电信、政府、交通、能源和电力等。
宋天龙（Tony Song）
大数据领域资深数据分析、挖掘和建模专家，精通端到端数据价值场景设计、业务需求转换、数据结构梳理、数据建模与学习，以及数据工程交付。曾任软通动力集团大数据研究院数据总监，Webtrekk（德国最大的网站数据分析服务提供商）中国区技术和咨询负责人，国美大数据中心经理。
拥有丰富的大数据项目工作经验，参与过集团和企业级大数据存储平台、大数据开发和集成平台、数据体系规划、大数据产品开发、网站流量系统建设、网站智能推荐、企业大数据智能等大型数据工作项目。参与实施客户案例包括Webpower、德国OTTO集团电子商务（中国）、Esprit中国、猪八戒网、顺丰优选、乐视商城、泰康人寿、酒仙网，国美在线、迪信通等。合作培训及沙龙单位包括人民大学、数盟、萝卜网、Netconcepts、触脉、中商联数据分析委等。萝卜课堂、天善学院特邀讲师，百度文库认证作家，36大数据、站长之家、互联网分析沙龙专栏作家。著有《网站数据挖掘与分析：系统方法与商业实践》一书。
杨晓鹏（Kelvin Yang）
大数据及BI技术领域资深架构师，精通传统数据模式及大数据分布模式的数据存储、计算与应用架构，以及大数据量的数据迁移、存储、索引、计算、分析与挖掘等相关环节的设计、实现与优化。曾任软通动力集团大数据研究院高级架构师，HiveCloud总架构师，主导大数据存储平台、计算平台和应用服务平台的设计与研发，曾任居然之家O2O大数据平台总负责人、中国银联大数据报文分析项目高级技术顾问、国美在线大数据中心高级技术工程师。
曾参与企业级项目包括大型电商网站的BI系统、数据仓库、大数据系统等设计和研发项目，以及金融银行类企业风险及异常交易分析项目。实施大中型企业数据项目包括居然之家、中国银联、华农保险、中国电信等超过50家客户的案例。精通大数据hadoop、Hive、HBase、Impala、Spark等组件的架构与实施，精通数学模型，自主开发实现分治/覆盖的C4.5决策树、马尔科夫预测、KMeans、Apriori等模型算法程序，并成功应用到电商、金融等行业。
读者对象
本书虽然是一本有关大数据的书籍，但并没有对读者的数据、技术等专业知识做硬性要求，相反，我们尽量让书籍的内容深入浅出、便于理解。当然，如果读者具有一定的知识背景，在对专业知识的理解上会更有帮助。本书适合以下几类读者阅读：
对大数据感兴趣的专业人员。数据工作能力已经成为提升自身技能、增强职业竞争力的重要因素。无论读者从事什么工作，如果能够将大数据的思路、价值和应用方法与工作实践相结合，一定会对现有工作有所帮助。
刚进入大数据行业的新人。刚入行的行业新人需要对大数据有完整的认知，然后才能针对不同的大数据工作并结合自己特点、喜好等制定适合自己的职业规划和成长路径。本书针对大数据体系做出详细、系统的介绍，涵盖从战略规划到实施应用，从技术架构到技术开发，从数据工作流到价值评估等一系列知识，对新人的指导意义非常大。
具备一定实践经验的大数据从业者。对于已经在大数据方面工作1～3年的从业者，相信你已经遇到了一些瓶颈，想要在原有的大数据思维基础上获得更有效的工作方法和价值提升。本书中丰富的应用案例可以帮助你拨开云雾见青天。
已经具有丰富工作经验的大数据从业者。当大数据从业者工作3年以上时，就已经有机会从执行层走向管理层。机会总是留给准备好的人，作为管理者如何从数据工作流程、制度、风险、绩效、安全和价值等方面进行思考并开展工作？相信本书会给你满意的答案。
如何阅读本书
本书内容共分为三个部分，按照大数据的规划定位、组织实施和价值提升，以及变革与挑战的思路撰写。
第1～4章讲解企业大数据的战略规划，主要从宏观的角度介绍大数据的定位、组织保障、解决方案选择和自主实施思路，目的是从全局角度引导建立大数据工作的整体思维。
第5～10章讲解企业大数据的落地实施，主要从执行层面介绍了大数据落地的相关技术、架构、开发、大数据工作流、应用和价值评估，直接以落地视角解读大数据工作中每个环节涉及的流程、知识和方法，这也是本书的核心章节。
第11～13章讲解大数据的价值、变革和挑战，主要涉及大数据的社会价值、当前问题和挑战以及大数据的未来趋势，这是对现有大数据工作的延展以及未来趋势的探索。
由于本书各个章节的内容相对独立，均可自成体系，因此在阅读本书的过程中并不要求读者注意特定的逻辑关系，读者可直接选择感兴趣的内容阅读。但是，从整书的逻辑结构和撰写出发点上，仍然建议读者从头开始阅读。
勘误和支持
由于作者的水平有限，书中难免会出现一些错误或者不准确的地方，恳请读者不吝指正。为此，作者特地创建了一个QQ群（群号：303237546），读者可以在QQ群中进行交流并提出意见与建议（或者添加微信TonySong2013进行反馈）；同时如果有任何问题，也可以在群中沟通讨论；更重要的是，我们希望能够将从事大数据行业的志同道合的人士聚集起来，分享彼此的工作经验。
致谢
在本书的撰写过程中，我们得到了来自多方的指导、帮助和支持。
首先要感谢的是我们的创作导师及本书的审校尹慧敏先生，以及软通动力集团高级副总裁史研先生，是他们给我们提供了更多探索企业大数据在不同行业的实践机会，并在该过程中给予我们战略引导、思想提升和方法启迪，本书的顺利完成与此密不可分。
其次要感谢在各个大数据项目和工作中，担当核心骨干的团队成员，他们是王平、曹佳佳、陈骏、陈海洋、李国彬、吕奔、姚璐、张丽涛、江涛、豆阿婷、高杰、侯良伟、杨勇、麻建昕等；当然，也要感谢来自项目团队中的各位领导、伙伴、朋友的大力支持！
再次要感谢机械工业出版社华章公司的杨福川老师，是他鼓励我们完成了本书并在撰写过程中给予了详细的思路拓展和专业指导；感谢全程参与审核、校验等工作的孙海亮编辑以及其他在背后默默支持的出版工作者。
最后要感谢我们的家人和朋友，在写书的这段期间里，他们帮我们解决了很多生活和工作中的问题，使得我们有精力、有时间完成本书的全部撰写工作。
谨以本书献给我们最亲爱的父母，以及众多热爱大数据工作并为之奋斗的朋友们！

宋天龙（Tony Song）

Contents 目　　录

前言
第1章 企业大数据战略定位
1.1 宏观
1.2 微观
1.2.1 资源协同
1.2.2 战略定位
1.2.3 启动契机
1.2.4 大数据历程
1.3 本章小结
第2章 企业大数据职能规划
2.1 大数据组织架构体系
2.1.1 大数据部门在企业中的角色
2.1.2 常见的大数据职能及职责
2.2 大数据职位构建体系
2.2.1 基础平台类
2.2.2 数据管理类
2.2.3 技术研发类
2.2.4 产品设计类
2.2.5 数据挖掘类
2.2.6 数据分析类
2.3 大数据制度和流程规范
2.3.1 制度和流程规范意义
2.3.2 制度和流程规范内容
2.3.3 制度和流程规范模板
2.4 本章小结
第3章 企业大数据解决方案
3.1 企业大数据解决方案实现方式
3.1.1 独立研发
3.1.2 第三方解决方案
3.1.3 联合开发
3.2 如何选择解决方案
3.2.1 外部环境分析
3.2.2 内部环境分析
3.2.3 需求规划分析
3.2.4 解决方案特性分析
3.2.5 解决方案费用评估
3.3 本章小结
第4章 企业大数据自主实施思路
4.1 制定规划原则
4.1.1 价值性
4.1.2 实时性
4.1.3 高效性
4.1.4 安全性
4.1.5 延展性
4.1.6 全局性
4.2 制定目标蓝图
4.3 制定建设目标
4.4 明确组织规划
4.4.1 组织结构设计的作用
4.4.2 组织结构设立的导向
4.4.3 组织结构的最终设立
4.5 设计技术方案
4.5.1 大数据系统建设方案
4.5.2 大数据系统与传统BI的融合方案
4.6 制定人才规划
4.6.1 指导思想
4.6.2 规划原则
4.6.3 核心内容
4.7 投入产出评估
4.7.1 数据投入与产出的内涵
4.7.2 数据投入与产出的特征
4.7.3 数据投入与产出的管理
4.8 数据风险管理
4.8.1 数据风险管理的概念
4.8.2 数据风险管理的类型
4.8.3 数据风险管理的原则
4.8.4 数据风险管理与控制
4.9 本章小结
第5章 大数据技术介绍
5.1 核心技术
5.1.1 Hadoop生态
5.1.2 NoSQL
5.1.3 实时计算
5.1.4 全文检索
5.2 相关技术
5.2.1 数据可视化
5.2.2 数据缓存
5.2.3 中间件
5.2.4 关系型数据库
5.2.5 数据ETL
5.3 大数据算法库
5.4 本章小结
第6章 大数据架构设计
6.1 大数据架构设计原则
6.2 大数据核心架构要素
6.3 大数据架构设计模式
6.4 本章小结
第7章 大数据技术开发
7.1 数据采集
7.1.1 批量采集
7.1.2 增量采集
7.2 数据存储
7.2.1 HDFS文件存储引擎
7.2.2 Hive数据存储引擎
7.2.3 HBase列式存储引擎
7.2.4 MySQL关系型数据存储引擎
7.3 多维计算
7.4 功能服务
7.5 平台管理
7.5.1 监控管理
7.5.2 调度管理
7.5.3 权限管理
7.6 应用域
7.7 本章小结
第8章 大数据工作流
8.1 数据源
8.1.1 日志/文件
8.1.2 数据库
8.1.3 网络爬虫
8.1.4 第三方API/合作
8.2 数据处理
8.2.1 数据质量校验
8.2.2 清洗转换
8.2.3 质量提升
8.2.4 数据脱敏
8.2.5 集成整合
8.3 数据存储
8.3.1 关系型数据库
8.3.2 分布式文件系统
8.4 数据计算
8.4.1 三种数据计算时效性
8.4.2 结构化数据计算
8.4.3 半/非结构化数据计算
8.4.4 深度挖掘学习
8.5 数据应用
8.5.1 辅助决策
8.5.2 数据驱动
8.6 数据质量管理
8.6.1 数据质量建设的内涵
8.6.2 影响数据质量的常见因素
8.6.3 数据质量建设的框架
8.7 本章小结
第9章 企业大数据业务应用
9.1 大数据应用场景概述
9.1.1 场景商业目的分析
9.1.2 场景数据来源分析
9.1.3 场景数据难易分析
9.1.4 场景应用举例
9.2 用户画像
9.2.1 业务应用背景
9.2.2 主要实现过程
9.2.3 关键应用场景
9.2.4 应用价值提炼
9.2.5 场景总结回顾
9.3 个性化营销
9.3.1 业务应用背景
9.3.2 主要实现过程
9.3.3 关键应用场景
9.3.4 应用价值提炼
9.3.5 场景总结回顾
9.4 精准广告
9.4.1 业务应用背景
9.4.2 主要实现过程
9.4.3 关键应用场景
9.4.4 应用价值提炼
9.4.5 场景总结回顾
9.5 征信
9.5.1 应用场景背景
9.5.2 主要实现过程
9.5.3 主要应用场景
9.5.4 应用价值提炼
9.5.5 场景总结回顾
9.6 本章小结
第10章　企业大数据价值评估
10.1　资产价值
10.1.1　数据规模
10.1.2　数据价值度
10.1.3　数据鲜活性
10.1.4　数据关联维度
10.1.5　数据粒度
10.2　业务价值
10.2.1　用户体验提升
10.2.2　运营优化
10.2.3　销售贡献
10.2.4　供应链优化
10.3　本章小结
第11章　大数据的社会价值
11.1　民生价值
11.2　政务价值
11.3　产业价值
11.4　本章小结
第12章　大数据当前问题及挑战
12.1　数据挑战
12.2　安全挑战
12.3　价值挑战
12.4　认知挑战
12.5　技术挑战
12.6　人才挑战
12.7　本章小结
第13章　大数据未来趋势
13.1　价值资产化
13.2　产业生态化
13.3　主体社会化
13.4　应用智能化
13.5　本章小结