基本信息

• 商品名称：大数据分析(数据仓库项目实战)
• 作者：编者:尚硅谷IT教育|责编:李冰
• 定价：100
• 出版社：电子工业
• 书号：9787121396007

其他参考信息（以实物为准）

• 出版时间：2020-11-01
• 印刷时间：2020-11-01
• 版次：1
• 印次：1
• 开本：16开
• 包装：平装
• 页数：386
• 字数：650千字

内容提要

本书按照需求规划、需求实现、需求可视化的流程进行编排，遵循项目开发的实际流程，全面介绍了数据仓库的搭建过程。在整个数据仓库的搭建过程中，本书介绍了主要组件的安装部署过程、需求实现的具体思路、部分问题的解决方案等，并在其中穿插了许多与大数据和数据仓库相关的理论知识，包括大数据概论、数据仓库概论、电商业务概述、数据仓库理论准备、数据仓库建模等。本书从逻辑上可以分为三部分： 部分是大数据与数据仓库概论及项目需求描述，主要介绍了数据仓库的概念、应用场景和搭建需求；第二部分是项目部署的环境准备，介绍了如何从零开始搭建一个完整的数据仓库环境；第三部分是需求模块实现，针对不同需求分模块进行实现，是本书的重点部分。本书适合具有一定的编程基础并对大数据感兴趣的读者阅读。通过阅读本书，读者可以快速了解数据仓库，全面掌握数据仓库的相关技术。

作者简介

尚硅谷IT教育是一家专业的IT教育培训机构，开设了JavaEE、大数据、HTML5前端等多门学科，在互联网上发布的JavaEE、大数据、HTML5前端、区块链、C语言、Python等技术视频教程广受赞誉。

目录

目录

第1章 大数据与数据仓库概论1
1.1 大数据概论1
1.1.1 什么是大数据1
1.1.2 大数据生态圈简介2
1.1.3 大数据应用场景3
1.2 数据仓库概论4
1.2.1 什么是数据仓库4
1.2.2 数据仓库能干什么4
1.2.3 数据仓库的特点5
1.3 学前导读6
1.3.1 学习的基础要求6
1.3.2 你将学到什么7
1.4 本章总结7
第2章 项目需求描述8
2.1 任务概述8
2.1.1 产品描述9
2.1.2 系统目标9
2.1.3 系统功能结构9
2.1.4 系统流程图10
2.2 业务描述10
2.2.1 采集模块业务描述10
2.2.2 数据仓库需求业务描述16
2.2.3 数据可视化业务描述17
2.3 系统运行环境17
2.3.1 硬件环境17
2.3.2 软件环境18
2.4 本章总结20
第3章 项目部署的环境准备21
3.1 Linux环境准备21
3.1.1 VMware安装21
3.1.2 CentOS安装21
3.1.3 远程终端安装31
3.2 Linux环境配置34
3.2.1 网络配置34
3.2.2 网络IP地址配置35
3.2.3 主机名配置36
3.2.4 防火墙配置37
3.2.5 一般用户设置38
3.3 Hadoop环境搭建38
3.3.1 虚拟机环境准备39
3.3.2 JDK安装45
3.3.3 Hadoop安装46
3.3.4 Hadoop分布式集群部署47
3.3.5 配置Hadoop支持LZO压缩52
3.3.6 配置Hadoop支持Snappy压缩53
3.4 本章总结54
第4章 用户行为数据采集模块55
4.1 日志生成55
4.2 采集日志的Flume57
4.2.1 Flume组件58
4.2.2 Flume安装58
4.2.3 采集日志Flume配置59
4.2.4 Flume的ETL拦截器和日志类型区分拦截器61
4.2.5 采集日志Flume启动、停止脚本67
4.3 消息队列Kafka68
4.3.1 Zookeeper安装68
4.3.2 Zookeeper集群启动、停止脚本70
4.3.3 Kafka安装71
4.3.4 Kafka集群启动、停止脚本73
4.3.5 Kafka Topic相关操作74
4.4 消费Kafka日志的Flume75
4.4.1 消费日志Flume配置75
4.4.2 消费日志Flume启动、停止脚本78
4.5 采集通道启动、停止脚本79
4.6 本章总结80
第5章 业务数据采集模块81
5.1 电商业务概述81
5.1.1 电商业务流程81
5.1.2 电商常识82
5.1.3 电商表结构82
5.1.4 数据同步策略89
5.2 业务数据采集90
5.2.1 MySQL安装90
5.2.2 业务数据生成92
5.2.3 业务数据建模94
5.2.4 Sqoop安装96
5.2.5 业务数据导入数据仓库97
5.3 本章总结109
第6章 数据仓库搭建模块110
6.1 数据仓库理论准备110
6.1.1 范式理论110
6.1.2 关系模型与维度模型113
6.1.3 星形模型、雪花模型与星座模型114
6.1.4 表的分类116
6.1.5 为什么要分层117
6.1.6 数据仓库建模118
6.1.7 业务术语121
6.2 数据仓库搭建环境准备123
6.2.1 MySQL HA123
6.2.2 Hive安装130
6.2.3 Tez引擎安装134
6.3 数据仓库搭建——ODS层138
6.3.1 创建数据库138
6.3.2 用户行为数据138
6.3.3 ODS层用户行为数据导入脚本141
6.3.4 业务数据142
6.3.5 ODS层业务数据导入脚本151
6.4 数据仓库搭建——DWD层154
6.4.1 用户行为启动日志表解析154
6.4.2 用户行为事件表拆分157
6.4.3 用户行为事件表解析167
6.4.4 业务数据维度表解析189
6.4.5 业务数据事实表解析195
6.4.6 拉链表构建之用户维度表209
6.4.7 DWD层数据导入脚本214
6.5 数据仓库搭建——DWS层223
6.5.1 系统函数223
6.5.2 用户行为数据聚合224
6.5.3 业务数据聚合226
6.5.4 DWS层数据导入脚本237
6.6 数据仓库搭建——DWT层246
6.6.1 设备主题宽表247
6.6.2 会员主题宽表249
6.6.3 商品主题宽表251
6.6.4 优惠券主题宽表254
6.6.5 活动主题宽表256
6.6.6 DWT层数据导入脚本258
6.7 数据仓库搭建——ADS层264
6.7.1 设备主题264
6.7.2 会员主题272
6.7.3 商品主题275
6.7.4 营销主题279
6.7.5 ADS层数据导入脚本283
6.8 结果数据导出脚本291
6.9 会员主题指标获取的全调度流程293
6.9.1 Azkaban安装293
6.9.2 创建可视化的MySQL数据库和表300
6.9.3 编写指标获取调度流程301
6.10 本章总结306
第7章 数据可视化模块307
7.1 模拟可视化数据307
7.1.1 会员主题307
7.1.2 地区主题308
7.2 Superset部署310
7.2.1 环境准备310
7.2.2 Superset安装312
7.3 Superset使用314
7.3.1 对接MySQL数据源314
7.3.2 制作仪表盘317
7.4 本章总结322
第8章 即席查询模块323
8.1 Presto323
8.1.1 Presto特点323
8.1.2 Presto安装324
8.1.3 Presto优化之数据存储328
8.1.4 Presto优化之查询SQL329
8.1.5 Presto注意事项330
8.2 Druid330
8.2.1 Druid简介330
8.2.2 Druid框架原理331
8.2.3 Druid数据结构332
8.2.4 Druid安装（单机版）333
8.3 Kylin338
8.3.1 Kylin简介338
8.3.2 HBase安装339
8.3.3 Kylin安装341
8.3.4 Kylin使用343
8.3.5 Kylin Cube构建原理353
8.3.6 Kylin Cube构建优化356
8.3.7 Kylin BI工具集成360
8.4 即席查询框架对比367
8.5 本章总结368
第9章 元数据管理模块369
9.1 Atlas入门369
9.1.1 Atlas概述369
9.1.2 Atlas架构原理370
9.2 Atlas安装及使用371
9.2.1 安装前环境准备371
9.2.2 集成外部框架373
9.2.3 集群启动377
9.2.4 导入Hive元数据到Atlas377
9.3 Atlas界面查看及使用378
9.3.1 查看基本信息378
9.3.2 查看血缘依赖关系381
9.4 本章总结386