本书内容涵盖了目前使用广泛的大数据处理系统Hadoop生态圈中的几大核心软件系统:分布式大数据处理系统Hadoop、数据库HBase、数据仓库工具Hive、内存大数据计算框架Spark和Spark SQL,详细介绍了它们的架构、工作原理、部署方法、常用配置、常用操作命令、SQL引擎等内容。本书对上述几大系统的各种安装部署方式给出了详细步骤,常用命令也都有具体示例介绍,是一本实操性很强的工具书,能帮助初学者快速掌握这几款常用的大数据处理系统。
本书以浅显易懂的语言风格和图文并茂的操作示例带读者迈入大数据实践之门,可以作为培养应用型人才的课程教材,也可作为开发人员的自学教材和参考手册。

第1章 大数据概述
1.1 从数据库到大数据库 1
1.1.1 关系型数据库 1
1.1.2 大数据库 2
1.2 大数据库的类型 4
1.3 大数据库的应用 5
习题1 8
参考文献 8
第2章 Hadoop基础
2.1 Hadoop简介 9
2.2 Hadoop部署 14
2.2.1 单节点部署 14
2.2.2 伪分布式部署 18
2.2.3 集群部署 25
2.3 Hadoop常用命令 33
2.3.1 用户命令 33
2.3.2 管理命令 35
2.3.3 启动/关闭命令 36
2.4 HDFS常用命令 38
2.4.1 用户命令 38
2.4.2 管理命令 39
实验1 Hadoop实验 41
习题2 42
参考文献 42
第3章 Hadoop数据库HBase
3.1 HBase简介 43
3.1.1 体系架构 43
3.1.2 数据模型 46
3.1.3 主要特性 51
3.2 HBase部署 51
3.2.1 准备工作 51
3.2.2 单节点部署 53
3.2.3 伪分布式部署 55
3.2.4 集群部署 57
3.2.5 版本升级 61
3.3 HBase配置 63
3.3.1 配置文件 63
3.3.2 主要配置项 65
3.3.3 配置建议 69
3.3.4 客户端配置 72
3.4 HBase Shell 72
3.4.1 交互模式 73
3.4.2 非交互模式 82
3.5 HBase模式设计 84
3.5.1 设计准则 84
3.5.2 列族属性 88
3.5.3 表属性 91
3.5.4 设计实例 94
3.6 HBase** 97
3.6.1 **访问配置 97
3.6.2 数据访问权限控制 99
实验2 HBase集群搭建 100
习题3 101
参考文献 102
第4章 数据仓库工具Hive
4.1 Hive简介 103
4.1.1 工作原理 104
4.1.2 体系架构 104
4.1.3 数据模型 106
4.2 Hive部署 108
4.2.1 Hive部署模式 109
4.2.2 Hive内嵌模式部署 110
4.2.3 Hive本地和远程模式部署 113
4.3 Hive配置 115
4.4 Hive接口 117
4.4.1 Hive Shell接口 117
4.4.2 Hive Web接口 119
4.5 Hive SQL 122
4.5.1 数据类型 122
4.5.2 DDL语句 122
4.5.3 DML语句 137
4.6 Hive操作实例 146
实验3 Hive实验 147
习题4 150
参考文献 150
第5章 内存大数据计算框架Spark
5.1 Spark简介 151
5.1.1 Spark概览 151
5.1.2 Spark生态系统BDAS 152
5.1.3 Spark架构与原理 153
5.2 Spark部署 155
5.2.1 准备工作 155
5.2.2 Spark单节点部署 156
5.2.3 Spark集群部署 157
5.3 Spark配置 169
5.3.1 Spark属性 169
5.3.2 环境变量配置 171
5.3.3 日志配置 171
5.3.4 查看配置 172
5.4 Spark RDD 173
5.4.1 RDD特征 174
5.4.2 RDD转换操作 174
5.4.3 RDD依赖 175
5.4.4 RDD行动操作 177
5.5 Spark Shell 177
5.5.1 准备工作 177
5.5.2 启动Spark Shell 178
5.5.3 创建RDD 179
5.5.4 转换RDD 180
5.5.5 执行RDD作业 181
实验4 Spark Standalone集群搭建 184
习题5 185
参考文献 185
第6章 Spark SQL
6.1 Spark SQL简介 186
6.1.1 Spark SQL概览 186
6.1.2 Spark SQL特性 188
6.1.3 Spark SQL架构与原理 188
6.1.4 和Hive的兼容性 190
6.1.5 数据类型 191
6.2 分布式SQL引擎 192
6.2.1 Spark SQL配置 192
6.2.2 Spark SQL CLI 195
6.2.3 Thrift JDBC/ODBC Server的搭建与测试 198
6.3 使用DataFrame API处理结构化数据 201
实验5 Thrift JDBC/ODBC Server的搭建与测试 205
习题6 206
参考文献 206
附录A 大数据和人工智能实验环境
附录B Hadoop环境要求
附录C 名词解释