企业大数据系统构建实战:技术、架构、实施与应用 epub pdf mobi txt 电子书 下载 2024
发表于2024-12-24
企业大数据系统构建实战:技术、架构、实施与应用 epub pdf mobi txt 电子书 下载 2024
4位在技术、应用、数据分析、架构、BI等方面非常资深的大数据专家,在软通动力、HiveCloud、国美、Webtrekk(德国大网站数据分析服务提供商)等大企业的大数据实践经验总结
从战略规划、落地实施、价值提升3个维度,技术、架构、实施、应用4个层面,为企业从数据端到应用端全方位构建大数据系统提供指导,有高度、有逻辑、有实战!
对于很多企业而言,大数据的重要性不言而喻,但是如何构建、实施和应用大数据系统却是一个复杂工程。本书让读者认识到大数据不仅仅是数据、技术、架构、应用,更是结合了商业模式、战略定位、信息安全、单位协同、组织保障、实施选型的完整体系。
本书内容从大数据的规划定位、组织实施和价值提升三个维度展开,兼顾从整体性、全局性、安全性、价值性、技术性、体系性等方面的考虑。
第一部分:企业大数据战略规划
主要从宏观的角度介绍大数据的定位、组织保障、解决方案选择和自主实施思路,目的是从全局角度引导建立大数据工作的整体思维。
第二部分:企业大数据落地实施
主要从执行层面介绍了大数据落地相关的技术、架构、开发、大数据工作流、应用和价值评估,直接以落地视角解读大数据工作中每个环节涉及到的流程、知识和方法,这也是本书的核心章节。
第三部分:大数据价值、变革和挑战
主要涉及大数据的社会价值、当前问题和挑战以及大数据的未来趋势,这是对现有大数据工作的延展以及未来趋势的探索。
吕兆星(EthanLv),资深大数据技术专家,精通基于大数据的分布式数据挖掘、存储与计算技术,及其生态体系架构;精通垂直搜索技术、机器学习、文本情感倾向性挖掘、网络爬虫、全文索引体系架构。曾任软通动力集团大数据研究院总架构师、HiveCloud创始人,萝卜网CTO,国美在线大数据中心高级架构师等。
主导研发的大数据和文本挖掘平台包括:DMP、DSP、推荐系统、决策运营系统、iCreations系列产品、蜂棱系列产品、军犬舆情系列产品等。成功应用到能源、电力、电商、电信、金融、政府、食品、医疗保健等行业,超过500个政府和企业用户。《基于机器学习的数据挖掘模型》获得*家级技术创新基金,萝卜课堂特邀高级讲师。
郑传峰(PeterZheng),大数据业务应用领域专家,主导大数据方向战略规划,包含数据产品、数据应用、数据价值变现等方向。曾任软通动力数据科技公司资深数据应用专家,HiveCloud首席战略官。
阶段性负责国美电器、国美在线、库巴网会员营销、网站运营和产品设计工作,在CRM系统、DMP数据平台、精准营销系统、广告精投、能源大数据拥有多年的操盘经验,包含大数据上层应用服务产品设计、咨询和实施。参与多个大型企业大数据战略规划和实施,行业覆盖零售、电商、电信、政府、交通、能源和电力等。
宋天龙(TonySong),大数据领域的资深数据分析、挖掘和建模专家,精通端到端数据价值场景设计、业务需求转换、数据结构梳理、数据建模与学习,以及数据工程交付。曾任软通动力集团大数据研究院数据总监,Webtrekk(德国*大的网站数据分析服务提供商)中国区技术和咨询负责人,国美大数据中心经理。
拥有丰富的大数据项目工作经验,参与过集团和企业级大数据存储平台、大数据开发和集成平台、数据体系规划、大数据产品开发、网站流量系统建设、网站智能推荐、企业大数据智能等大型数据工作项目。参与实施客户案例包括Webpower、德国OTTO集团电子商务(中国),Esprit中国、猪八戒网、顺丰优选、乐视商城、泰康人寿、酒仙网,国美在线、迪信通等。合作培训及沙龙单位包括人民大学、数盟、萝卜网、Netconcepts、触脉、中商联数据分析委等。萝卜课堂、天善学院特邀讲师,百度文库认证作家,36大数据、站长之家、互联网分析沙龙专栏作家。著有《网站数据挖掘与分析:系统方法与商业实践》一书。
杨晓鹏(KelvinYang),大数据及BI技术领域资深架构师,精通传统数据模式及大数据分布模式的数据存储、计算与应用架构,以及大数据量的数据迁移、存储、索引、计算、分析与挖掘等相关环节的设计、实现与优化。曾任软通动力集团大数据研究院高级架构师,HiveCloud总架构师,主导大数据存储平台、计算平台和应用服务平台的设计与研发。曾任居然之家O2O大数据平台总负责人、中国银联大数据报文分析项目高级技术顾问、国美在线大数据中心高级技术工程师。
曾参与企业级项目包括大型电商网站的BI系统、数据仓库、大数据系统等设计和研发项目,金融银行类企业风险及异常交易分析项目。实施大中型企业数据项目包括居然之家、中国银联、华农保险、中国电信等超过50家客户案例。精通大数据Hadoop,Hive,HBase,Impala,Spark等组件架构与实施,精通数学模型,自主开发实现分治/覆盖的C4.5决策树、马尔科夫预测、KMeans、Apriori等模型算法程序,成功应用到电商、金融等行业。
x
前言
第1章 企业大数据战略定位 1
1.1 宏观 1
1.2 微观 4
1.2.1 资源协同 5
1.2.2 战略定位 6
1.2.3 启动契机 7
1.2.4 大数据历程 9
1.3 本章小结 12
第2章 企业大数据职能规划 13
2.1 大数据组织架构体系 13
2.1.1 大数据部门在企业中的角色 13
2.1.2 常见的大数据职能及职责 17
2.2 大数据职位构建体系 24
2.2.1 基础平台类 24
2.2.2 数据管理类 26
2.2.3 技术研发类 27
2.2.4 产品设计类 30
2.2.5 数据挖掘类 32
2.2.6 数据分析类 33
2.3 大数据制度和流程规范 35
2.3.1 制度和流程规范意义 35
2.3.2 制度和流程规范内容 35
2.3.3 制度和流程规范模板 42
2.4 本章小结 44
第3章 企业大数据解决方案 45
3.1 企业大数据解决方案实现方式 45
3.1.1 独立研发 45
3.1.2 第三方解决方案 46
3.1.3 联合开发 57
3.2 如何选择解决方案 58
3.2.1 外部环境分析 58
3.2.2 内部环境分析 59
3.2.3 需求规划分析 62
3.2.4 解决方案特性分析 63
3.2.5 解决方案费用评估 67
3.3 本章小结 70
第4章 企业大数据自主实施思路 71
4.1 制定规划原则 71
4.2 制定目标蓝图 75
4.3 制定建设目标 76
4.4 明确组织规划 78
4.5 设计技术方案 85
4.6 制定人才规划 94
4.7 投入产出评估 97
4.8 数据风险管理 105
4.9 本章小结 114
第5章 大数据技术介绍 115
5.1 核心技术 115
5.2 相关技术 204
5.3 大数据算法库 250
5.4 本章小结 276
第6章 大数据架构设计 277
6.1 大数据架构设计原则 277
6.2 大数据核心架构要素 279
6.3 大数据架构设计模式 284
6.4 本章小结 289
第7章 大数据技术开发 290
7.1 数据采集 290
7.2 数据存储 293
7.3 多维计算 296
7.4 功能服务 299
7.5 平台管理 301
7.6 应用域 307
7.7 本章小结 308
第8章 大数据工作流 309
8.1 数据源 310
8.2 数据处理 312
8.3 数据存储 324
8.4 数据计算 325
8.5 数据应用 376
8.6 数据质量管理 379
8.7 本章小结 392
第9章 企业大数据业务应用 393
9.1 大数据应用场景概述 393
9.2 用户画像 407
9.3 个性化营销 419
9.4 精准广告 427
9.5 征信 441
9.6 本章小结 450
第10章 企业大数据价值评估 451
10.1 资产价值 451
10.2 业务价值 455
10.3 本章小结 462
第11章 大数据的社会价值 463
11.1 民生价值 463
11.2 政务价值 465
11.3 产业价值 468
11.4 本章小结 470
第12章 大数据当前问题及挑战 471
12.1 数据挑战 471
12.2 安全挑战 472
12.3 价值挑战 474
12.4 认知挑战 475
12.5 技术挑战 478
12.6 人才挑战 480
12.7 本章小结 481
第13章 大数据未来趋势 482
13.1 价值资产化 482
13.2 产业生态化 487
13.3 主体社会化 490
13.4 应用智能化 491
13.5 本章小结 492
为什么要写这本书
随着2013年大数据元年的开启,各行各业都已经将大数据视为推动企业发展、推进行业进步、加快产业升级、促进民生繁荣、巩固社会安全甚至提升国家竞争力的核心武器。从个性化推荐、关联销售到精准营销,从云平台、云服务、云计算到大数据产业链,从百度迁徙、高考预测到冬季流感预测,从机器学习、图像识别到智能交通,从奥巴马总统竞选到美国中央情报局反恐,从美国的大数据研究和发展计划到中国的促进大数据发展行动纲要等一系列事实说明了大数据正受到来自政治、经济、社会、文化、军事等各个领域的广泛关注,并越来越彰显其巨大价值。
大数据不仅是一个技术名词,更是当下企业资产、核心竞争力、完整产业链和先进生产力的代名词。因此,大数据应该是作为一个整合概念和体系被认知,而非独立的方法论、技术论甚至应用论。处于飞速变革时代的中国,在大数据产业链各个环节的企事业单位受限于自身产业属性、盈利模式、利益趋向、认知、能力等,无法完整地展示出大数据的知识图谱与价值图谱。
纵观当下整个大数据认知取向,大致有三类基本认知点:
第一类是大数据知识论,这种认知以大数据方法、理论、知识的研究和推导为聚焦点,通过深度学习,归纳、总结出大数据知识体系。这是典型的学院派,优势是对基础理论研究非常透彻并且具备深厚的理论基础,不足之处是缺乏对产业、学术、应用的结合,更缺少真正能落地的应用案例。
第二类是大数据技术论,这种认知以大数据技术为聚焦点,落脚于大数据的硬件、服务、架构、开发、计算、算法等具体实施层面。诚然,大数据技术是大数据实施的核心,也是带来技术变革和生产力突破的关键,但只有技术而缺乏正确的方向以及有价值的应用引导,技术便无法发挥作用,更无法转化为经济价值、社会价值和政治价值。
第三类是大数据应用论,这种认知以大数据的场景化为聚焦点,通过对历史、现在、未来的变革、创新和实践的总结和构想,营造出大数据的丰富应用场景和能力空间。这是一种典型的以应用为驱动的认知理论,通过落地案例驱动技术来表现大数据的巨大价值。但这种应用论过于专注场景化包装,更强调落地而忽视技术的巨大潜力和推动作用,更无法体现出大数据作为企业资产、技术竞争力等非直接利润表现的价值因素。
本书的几位联合作者彼此是共事多年的朋友,各自负责大数据工作中的不同环节。大家的工作和知识有交集更有互补,因此,我们认为只有依靠这种“知识合并”和“知识互补”的关系才能够呈现出大数据的全貌,这也是撰写本书的出发点之一。
当前,市场上有非常多关于大数据的书籍,但能从整体性、全局性、安全性、价值性、技术性、体系性等方面完整考虑的书非常少。我们希望通过本书让读者认识到大数据不仅仅是数据、技术、架构、应用,更是结合了商业模式、战略定位、信息安全、单位协同、组织保障、实施选型的完整体系。
几位联合作者对于本书内容的贡献如下:吕兆星撰写了技术的架构部分,包括第4章、第5章、第6章;郑传峰撰写了战略和应用的部分,包括第1章、第2章、第9章;宋天龙撰写了数据和价值评估的部分,包括第3章、第8章、第10章、第11章、第12章、第13章;杨晓鹏撰写了技术开发的部分中第7章的全部内容。
作者简介
吕兆星(EthanLv)
资深大数据技术专家,精通基于大数据的分布式数据挖掘、存储、计算技术,以及其生态体系架构;精通垂直搜索技术、机器学习、文本情感倾向性挖掘、网络爬虫、全文索引体系架构。曾任软通动力集团大数据研究院总架构师、HiveCloud创始人、萝卜网CTO、国美在线大数据中心高级架构师等。
主导研发的大数据和文本挖掘平台包括:DMP、DSP、推荐系统、决策运营系统、iCreations系列产品、蜂棱系列产品、军犬舆情系列产品等。并成功应用到能源、电力、电商、电信、金融、政府、食品、医疗保健等行业与机构,覆盖超过500家各级企业用户。所著《基于机器学习的数据挖掘模型》获得国家级技术创新基金。
郑传峰(PeterZheng)
大数据业务应用领域专家,主导大数据方向的战略规划,包括数据产品、数据应用、数据价值变现等方向。曾任软通动力数据科技公司资深数据应用专家,HiveCloud首席战略官。
阶段性负责国美电器、国美在线,以及库巴网会员营销、网站运营和产品设计工作,在CRM系统、DMP数据平台、精准营销系统、广告精投、能源大数据拥有多年的操盘经验,涉及大数据上层应用服务产品的设计、咨询和实施。参与多家大型企业或机构的大数据战略规划和实施,行业覆盖零售、电商、电信、政府、交通、能源和电力等。
宋天龙(TonySong)
大数据领域资深数据分析、挖掘和建模专家,精通端到端数据价值场景设计、业务需求转换、数据结构梳理、数据建模与学习,以及数据工程交付。曾任软通动力集团大数据研究院数据总监,Webtrekk(德国最大的网站数据分析服务提供商)中国区技术和咨询负责人,国美大数据中心经理。
拥有丰富的大数据项目工作经验,参与过集团和企业级大数据存储平台、大数据开发和集成平台、数据体系规划、大数据产品开发、网站流量系统建设、网站智能推荐、企业大数据智能等大型数据工作项目。参与实施客户案例包括Webpower、德国OTTO集团电子商务(中国)、Esprit中国、猪八戒网、顺丰优选、乐视商城、泰康人寿、酒仙网,国美在线、迪信通等。合作培训及沙龙单位包括人民大学、数盟、萝卜网、Netconcepts、触脉、中商联数据分析委等。萝卜课堂、天善学院特邀讲师,百度文库认证作家,36大数据、站长之家、互联网分析沙龙专栏作家。著有《网站数据挖掘与分析:系统方法与商业实践》一书。
杨晓鹏(KelvinYang)
大数据及BI技术领域资深架构师,精通传统数据模式及大数据分布模式的数据存储、计算与应用架构,以及大数据量的数据迁移、存储、索引、计算、分析与挖掘等相关环节的设计、实现与优化。曾任软通动力集团大数据研究院高级架构师,HiveCloud总架构师,主导大数据存储平台、计算平台和应用服务平台的设计与研发,曾任居然之家O2O大数据平台总负责人、中国银联大数据报文分析项目高级技术顾问、国美在线大数据中心高级技术工程师。
曾参与企业级项目包括大型电商网站的BI系统、数据仓库、大数据系统等设计和研发项目,以及金融银行类企业风险及异常交易分析项目。实施大中型企业数据项目包括居然之家、中国银联、华农保险、中国电信等超过50家客户的案例。精通大数据Hadoop、Hive、HBase、Impala、Spark等组件的架构与实施,精通数学模型,自主开发实现分治/覆盖的C4.5决策树、马尔科夫预测、KMeans、Apriori等模型算法程序,并成功应用到电商、金融等行业。
读者对象
本书虽然是一本有关大数据的书籍,但并没有对读者的数据、技术等专业知识做硬性要求,相反,我们尽量让书籍的内容深入浅出、便于理解。当然,如果读者具有一定的知识背景,在对专业知识的理解上会更有帮助。本书适合以下几类读者阅读:
对大数据感兴趣的专业人员。数据工作能力已经成为提升自身技能、增强职业竞争力的重要因素。无论读者从事什么工作,如果能够将大数据的思路、价值和应用方法与工作实践相结合,一定会对现有工作有所帮助。
刚进入大数据行业的新人。刚入行的行业新人需要对大数据有完整的认知,然后才能针对不同的大数据工作并结合自己特点、喜好等制定适合自己的职业规划和成长路径。本书针对大数据体系做出详细、系统的介绍,涵盖从战略规划到实施应用,从技术架构到技术开发,从数据工作流到价值评估等一系列知识,对新人的指导意义非常大。
具备一定实践经验的大数据从业者。对于已经在大数据方面工作1~3年的从业者,相信你已经遇到了一些瓶颈,想要在原有的大数据思维基础上获得更有效的工作方法和价值提升。本书中丰富的应用案例可以帮助你拨开云雾见青天。
已经具有丰富工作经验的大数据从业者。当大数据从业者工作3年以上时,就已经有机会从执行层走向管理层。机会总是留给准备好的人,作为管理者如何从数据工作流程、制度、风险、绩效、安全和价值等方面进行思考并开展工作?相信本书会给你满意的答案。
如何阅读本书
本书内容共分为三个部分,按照大数据的规划定位、组织实施和价值提升,以及变革与挑战的思路撰写。
第1~4章讲解企业大数据的战略规划,主要从宏观的角度介绍大数据的定位、组织保障、解决方案选择和自主实施思路,目的是从全局角度引导建立大数据工作的整体思维。
第5~10章讲解企业大数据的落地实施,主要从执行层面介绍了大数据落地的相关技术、架构、开发、大数据工作流、应用和价值评估,直接以落地视角解读大数据工作中每个环节涉及的流程、知识和方法,这也是本书的核心章节。
第11~13章讲解大数据的价值、变革和挑战,主要涉及大数据的社会价值、当前问题和挑战以及大数据的未来趋势,这是对现有大数据工作的延展以及未来趋势的探索。
由于本书各个章节的内容相对独立,均可自成体系,因此在阅读本书的过程中并不要求读者注意特定的逻辑关系,读者可直接选择感兴趣的内容阅读。但是,从整书的逻辑结构和撰写出发点上,仍然建议读者从头开始阅读。
勘误和支持
由于作者的水平有限,书中难免会出现一些错误或者不准确的地方,恳请读者不吝指正。为此,作者特地创建了一个QQ群(群号:303237546),读者可以在QQ群中进行交流并提出意见与建议(或者添加微信TonySong2013进行反馈);同时如果有任何问题,也可以在群中沟通讨论;更重
企业大数据系统构建实战:技术、架构、实施与应用 epub pdf mobi txt 电子书 下载 2024
企业大数据系统构建实战:技术、架构、实施与应用 下载 epub mobi pdf txt 电子书 2024企业大数据系统构建实战:技术、架构、实施与应用 mobi pdf epub txt 电子书 下载 2024
企业大数据系统构建实战:技术、架构、实施与应用 epub pdf mobi txt 电子书 下载同事写的书,值得拥有,实战记录!
评分领导让买的,说挺有用的
评分发货速度很快, 内容不错。。。
评分不错不错不错不错不错不错
评分作者的几本书都比较接地气
评分觉得不错,内容值得期待。
评分发货速度很快, 内容不错。。。
评分大数据不错的教程
评分很快,很好,性价比高,会再来
企业大数据系统构建实战:技术、架构、实施与应用 epub pdf mobi txt 电子书 下载 2024