大数据推动了各行各业的迅猛发展，各领域呈现出新产品、新技术、新服务和新的发展业态，但“信息丰富而知识贫乏”的现象仍然存在。逾越数据与知识之间的鸿沟，需要强有力的分析工具和分析方法的支撑。现有的关联规则挖掘算法，因其时空复杂性和I/O代价高，难以适应大数据分析任务。本书充分利用Hadoop、Spark等集群系统的强大数据处理能力，论述了支持大数据分析的关联规则并行挖掘算法与集群系统性能优化，并探讨了其在智能制造领域的应用。本书可供从事数据挖掘、机器学习及并行计算等相关专业的科研人员参考，也可作为高等院校计算机、大数据专业的高年级本科生与研究生的学习参考书。

目录 **篇 基础理论篇 第1章 绪论 3 1.1 数据挖掘 4 1.1.1 数据挖掘的产生和定义 4 1.1.2 数据挖掘的任务与分类 6 1.1.3 研究前沿和发展趋势 8 1.2 关联规则 9 1.2.1 关联规则及其分类 9 1.2.2 关联规则挖掘算法 12 1.3 集群系统与并行计算模型 17 1.3.1 集群系统 17 1.3.2 并行计算模型 18 1.3.3 大数据处理架构Hadoop与Spark 21 1.4 大数据环境下的数据挖掘及应用 27 1.4.1 大数据 27 1.4.2 大数据挖掘及应用 29 第2章 MapReduce集群环境下的数据放置策略 33 2.1 引言 34 2.2 数据放置策略的关键问题与度量标准 35 2.3 数据放置策略的优化 37 2.3.1 MapReduce集群系统能耗与数据放置策略 38 2.3.2 负载均衡的数据放置策略 41 2.3.3 改善I/O性能与通信负载的数据放置策略 46 2.3.4 考虑其他因素的数据放置策略 49 2.4 数据放置策略的分析与归纳 50 2.5 本章小结 53 第二篇 关联规则并行挖掘及性能优化篇 第3章 压缩后缀链表与并行频繁项集挖掘算法 61 3.1 问题提出 62 3.2 基础理论 63 3.3 基于MapReduce的频繁项集挖掘算法 65 3.3.1 **个MapReduce作业 67 3.3.2 第二个MapReduce作业 67 3.4 实验评价 68 3.4.1 *小支持度 69 3.4.2 可扩展性 70 3.4.3 加速比 70 3.5 本章小结 71 第4章 FIUT算法与频繁项集并行挖掘 73 4.1 引言 74 4.2 FIUT算法描述 76 4.3 FiDoop算法概述 77 4.4 基于MapReduce的FiDoop算法 81 4.4.1 **个MapReduce作业 83 4.4.2 第二个MapReduce作业 83 4.4.3 第三个MapReduce作业 84 4.5 实现细节 87 4.5.1 负载均衡 87 4.5.2 高维优化 88 4.6 FiDoop-HD算法 90 4.7 实验评价 92 4.7.1 *小支持度 93 4.7.2 负载均衡 95 4.7.3 加速比 96 4.7.4 可扩展性 97 4.8 本章小结 98 第5章 MapReduce编程模型下的约束频繁项集并行挖掘算法 101 5.1 问题提出 102 5.2 约束频繁项集挖掘算法的并行化 103 5.3 基于MapReduce的约束频繁项集并行挖掘 105 5.4 基于MapReduce的约束频繁项集并行挖掘算法（PACFP） 108 5.4.1 并行化计数过程 108 5.4.2 并行化CFP-Growth算法 109 5.4.3 结果聚合 111 5.5 负载均衡 111 5.6 实验结果及分析 112 5.6.1 *小支持度 113 5.6.2 可伸缩性 115 5.6.3 可扩展性 116 5.6.4 约束条件判断的代价分析 117 5.6.5 负载均衡 118 5.7 本章小结 120 第6章 支持并行频繁项集挖掘的数据划分策略 121 6.1 引言 122 6.1.1 FiDoop-DP算法的研发动机 123 6.1.2 FiDoop-DP算法要解决的数据划分问题 124 6.1.3 FiDoop-DP算法的基本思想 125 6.2 并行FP-Growth算法 126 6.3 相关工作 128 6.3.1 MapReduce下的数据划分 128 6.3.2 应用系统相关的数据划分 129 6.4 问题陈述和设计目标 131 6.4.1 基本方法与问题陈述 131 6.4.2 设计目标 132 6.5 数据划分策略 133 6.5.1 距离度量 134 6.5.2 K-Means算法种子点的选择 135 6.5.3 划分策略 135 6.6 实现细节 138 6.7 实验评价 143 6.7.1 种子点个数对算法的影响 143 6.7.2 *小支持度对算法的影响 145 6.7.3 数据特征对算法的影响 147 6.7.4 加速比 149 6.7.5 可扩展性 150 6.8 本章小结 151 第7章 频繁项集并行化过程中的重定向任务调度 153 7.1 问题提出 154 7.2 重定向任务调度算法 156 7.2.1 数据本地化的重要性 156 7.2.2 计算响应时间 157 7.2.3 重定向任务调度算法的设计 158 7.3 实验结果及分析 160 7.3.1 有效性 160 7.3.2 可扩展性 161 7.3.3 稳定性 162 7.4 本章小结 163 第8章 基于Spark内存计算的并行频繁项集挖掘及优化 165 8.1 引言 166 8.2 FP-Growth 算法的并行化分析 167 8.3 Spark环境下的均衡FP-Growth算法 169 8.3.1 负载均衡的分组策略 169 8.3.2 负载均衡的FP-Growth算法并行化 172 8.4 实验评价 174 8.4.1 算法执行效率 175 8.4.2 加速比 176 8.4.3 可扩展性 177 8.5 本章小结 178 第三篇 应 用 篇 第9章 冷轧辊加工质量管理过程相关性分析 181 9.1 引言 182 9.2 系统需求与总体设计 184 9.2.1 轧辊生产工艺流程 184 9.2.2 冷轧辊生产质量管理特点 186 9.2.3 系统的软件体系结构及功能 188 9.3 数据预处理及关键技术 190 9.3.1 数据转换 190 9.3.2 数据清理 190 9.3.3 数据离散化 193 9.4 提取关联规则 195 9.5 系统实现及运行结果 196 9.6 本章小结 203 附录A 冷轧辊加工数据 205 附录B 冷轧辊加工数据预处理格式 207 参考文献 209 **篇 基础理论篇 第1章 绪论 3 1.1 数据挖掘 4 1.1.1 数据挖掘的产生和定义 4 1.1.2 数据挖掘的任务与分类 6 1.1.3 研究前沿和发展趋势 8 1.2 关联规则 9 1.2.1 关联规则及其分类 9 1.2.2 关联规则挖掘算法 12 1.3 集群系统与并行计算模型 17 1.3.1 集群系统 17 1.3.2 并行计算模型 18 1.3.3 大数据处理架构Hadoop与Spark 21 1.4 大数据环境下的数据挖掘及应用 27 1.4.1 大数据 27 1.4.2 大数据挖掘及应用 29 第2章 MapReduce集群环境下的数据放置策略 33 2.1 引言 34 2.2 数据放置策略的关键问题与度量标准 35 2.3 数据放置策略的优化 37 2.3.1 MapReduce集群系统能耗与数据放置策略 38 2.3.2 负载均衡的数据放置策略 41 2.3.3 改善I/O性能与通信负载的数据放置策略 46 2.3.4 考虑其他因素的数据放置策略 49 2.4 数据放置策略的分析与归纳 50 2.5 本章小结 53 第二篇 关联规则并行挖掘及性能优化篇 第3章 压缩后缀链表与并行频繁项集挖掘算法 61 3.1 问题提出 62 3.2 基础理论 63 3.3 基于MapReduce的频繁项集挖掘算法 65 3.3.1 **个MapReduce作业 67 3.3.2 第二个MapReduce作业 67 3.4 实验评价 68 3.4.1 *小支持度 69 3.4.2 可扩展性 70 3.4.3 加速比 70 3.5 本章小结 71 第4章 FIUT算法与频繁项集并行挖掘 73 4.1 引言 74 4.2 FIUT算法描述 76 4.3 FiDoop算法概述 77 4.4 基于MapReduce的FiDoop算法 81 4.4.1 **个MapReduce作业 83 4.4.2 第二个MapReduce作业 83 4.4.3 第三个MapReduce作业 84 4.5 实现细节 87 4.5.1 负载均衡 87 4.5.2 高维优化 88 4.6 FiDoop-HD算法 90 4.7 实验评价 92 4.7.1 *小支持度 93 4.7.2 负载均衡 95 4.7.3 加速比 96 4.7.4 可扩展性 97 4.8 本章小结 98 第5章 MapReduce编程模型下的约束频繁项集并行挖掘算法 101 5.1 问题提出 102 5.2 约束频繁项集挖掘算法的并行化 103 5.3 基于MapReduce的约束频繁项集并行挖掘 105 5.4 基于MapReduce的约束频繁项集并行挖掘算法（PACFP） 108 5.4.1 并行化计数过程 108 5.4.2 并行化CFP-Growth算法 109 5.4.3 结果聚合 111 5.5 负载均衡 111 5.6 实验结果及分析 112 5.6.1 *小支持度 113 5.6.2 可伸缩性 115 5.6.3 可扩展性 116 5.6.4 约束条件判断的代价分析 117 5.6.5 负载均衡 118 5.7 本章小结 120 第6章 支持并行频繁项集挖掘的数据划分策略 121 6.1 引言 122 6.1.1 FiDoop-DP算法的研发动机 123 6.1.2 FiDoop-DP算法要解决的数据划分问题 124 6.1.3 FiDoop-DP算法的基本思想 125 6.2 并行FP-Growth算法 126 6.3 相关工作 128 6.3.1 MapReduce下的数据划分 128 6.3.2 应用系统相关的数据划分 129 6.4 问题陈述和设计目标 131 6.4.1 基本方法与问题陈述 131 6.4.2 设计目标 132 6.5 数据划分策略 133 6.5.1 距离度量 134 6.5.2 K-Means算法种子点的选择 135 6.5.3 划分策略 135 6.6 实现细节 138 6.7 实验评价 143 6.7.1 种子点个数对算法的影响 143 6.7.2 *小支持度对算法的影响 145 6.7.3 数据特征对算法的影响 147 6.7.4 加速比 149 6.7.5 可扩展性 150 6.8 本章小结 151 第7章 频繁项集并行化过程中的重定向任务调度 153 7.1 问题提出 154 7.2 重定向任务调度算法 156 7.2.1 数据本地化的重要性 156 7.2.2 计算响应时间 157 7.2.3 重定向任务调度算法的设计 158 7.3 实验结果及分析 160 7.3.1 有效性 160 7.3.2 可扩展性 161 7.3.3 稳定性 162 7.4 本章小结 163 第8章 基于Spark内存计算的并行频繁项集挖掘及优化 165 8.1 引言 166 8.2 FP-Growth 算法的并行化分析 167 8.3 Spark环境下的均衡FP-Growth算法 169 8.3.1 负载均衡的分组策略 169 8.3.2 负载均衡的FP-Growth算法并行化 172 8.4 实验评价 174 8.4.1 算法执行效率 175 8.4.2 加速比 176 8.4.3 可扩展性 177 8.5 本章小结 178 第三篇 应 用 篇 第9章 冷轧辊加工质量管理过程相关性分析 181 9.1 引言 182 9.2 系统需求与总体设计 184 9.2.1 轧辊生产工艺流程 184 9.2.2