本书作为机器学习的入门书，涉及机器学习基础知识的各方面内容。对于常用的算法，本书首先介绍其基本思想和具体实现步骤，然后讲解其在具体案例中的应用，让读者对算法有一个直观的认识。 本书共包含11章内容，具体安排为：第1章讲解机器学习的基础知识；第2～6章讲解监督学习中常用的分类算法；第7章讲解监督学习中常用的回归算法；第8章介绍神经网络，其既可以用于分类，又可以用于回归；第9～10章讲解无监督学习中的常用算法；第11章介绍通过降维技术来简化数据。 本书可以作为高等院校计算机相关专业的本科生教材。

第1章绪论1 1.1机器学习定义1 1.2机器学习发展历程1 1.3机器学习分类2 1.3.1有监督学习2 1.3.2分类模型评判指标3 1.3.3无监督学习5 1.3.4增强学习5 1.4实验环境介绍5 1.4.1语言的选择5 1.4.2Python的安装5 1.4.3PyCharm编辑器8 1.5本章小结13 第2章k近邻14 2.1k近邻算法介绍14 2.2入门实例14 2.3k近邻算法的深入讨论15 2.3.1k值对结果的影响15 2.3.2相似程度的度量16 2.3.3决策策略17 2.4实际应用17 2.4.1KNeighborsClassifier类介绍17 2.4.2小试牛刀18 2.4.3实战演示19 2.5本章小结21 第3章决策树22 3.1决策树算法介绍22 3.2构建决策树的方法23 3.2.1信息熵23 3.2.2信息增益25 3.2.3ID3算法25 3.2.4C4.5算法32 3.2.5CART算法33 3.3模型评估方法36 3.3.1保留法36 3.3.2k折交叉验证法37 3.3.3自助法37 3.4实际应用38 3.4.1DecisionTreeClassifier类介绍38 3.4.2小试牛刀38 3.4.3实战演示40 3.5本章小结41 第4章朴素贝叶斯42 4.1贝叶斯定理42 4.2朴素贝叶斯算法介绍43 4.3入门实例43 4.4Laplace修正47 4.5实际应用50 4.5.1GussianNB类介绍50 4.5.2小试牛刀51 4.5.3实战演示52 4.6本章小结53 第5章支持向量机54 5.1支持向量机算法介绍54 5.1.1间隔54 5.1.2得到���策边界的方法55 5.1.3松弛变量56 5.1.4核函数58 5.2多分类支持向量机60 5.2.1一对多60 5.2.2一对一61 5.2.3支持向量机树61 5.3实际应用62 5.3.1支持向量机类介绍62 5.3.2小试牛刀63 5.3.3实战演示64 5.4本章小结68 第6章AdaBoost69 6.1AdaBoost算法介绍69 6.1.1强分类器与弱分类器69 6.1.2集成学习69 6.1.3AdaBoost算法思想70 6.1.4AdaBoost算法流程70 6.1.**daBoost实例演示71 6.1.6AdaBoost的优缺点73 6.2AdaBoost算法演变73 6.2.1多分类AdaBoost算法73 6.2.2**样本噪声73 6.3实际应用74 6.3.1AdaBoostClassifier类介绍74 6.3.2小试牛刀75 6.3.3实战演示76 6.4本章小结78 第7章线性回归79 7.1线性回归介绍79 7.1.1回归79 7.1.2线性模型79 7.1.3梯度下降算法80 7.1.4一元线性回归80 7.1.5决定系数84 7.2算法优化84 7.2.1损失函数优化84 7.2.2随机抽样一致算法85 7.2.3多项式回归87 7.3实际应用89 7.3.1数据说明89 7.3.2数据导入与划分90 7.3.3简单线性模型90 7.3.4多项式回归90 7.4本章小结92 第8章神经网络93 8.1神经网络的概念93 8.2MP神经元模型93 8.3感知器96 8.3.1感知器简介96 8.3.2感知器学习策略96 8.3.3原始形式97 8.3.4原始形式的实际应用97 8.3.5对偶形式100 8.3.6对偶形式的实际应用101 8.3.7感知器总结104 8.4反向传播神经网络104 8.4.1前向传播104 8.4.2梯度下降与反向传播106 8.4.3训练过程107 8.4.4BP神经网络算法的实际应用108 8.4.5BP神经网络算法总结111 8.5多层神经网络112 8.5.1深度学习112 8.5.2卷积神经网络113 8.5.3循环神经网络115 8.5.4实战演示116 8.6本章小结123 第9章kmeans124 9.1kmeans算法介绍124 9.2kmeans算法深入讨论124 9.2.1k值的选择124 9.2.2相似程度的度量125 9.2.3终止条件125 9.3入门实例125 9.4实际应用126 9.4.1KMeans类介绍126 9.4.2小试牛刀127 9.4.3实战演示129 9.5本章小结132 第10章Apriori关联分析133 10.1Apriori关联分析介绍133 10.1.1关联分析简介133 10.1.2Apriori135 10.2实际应用140 10.2.1Groceries数据集140 10.2.2关联分析141 10.2.3数据集分析142 10.2.4基于提升度的关联分析142 10.3本章小结143 第11章PCA降维144 11.1降维思路144 11.2PCA思路145 11.3数学基础145 11.3.1方差145 11.3.2协方差145 11.3.3特征值分解146 11.4PCA的实现步骤146 11.5实际应用147 11.5.1PCA类介绍147 11.5.2小试牛刀147 11.5.3实战演示151 11.6本章小结153 参考文献154 附录A线性代数基础155 A.1基本概念155 A.1.1矩阵155 A.1.2三角形矩阵155 A.1.3单位矩阵156 A.1.4零矩阵156 A.2矩阵运算156 A.2.1矩阵加法156 A.2.2矩阵减法157 A.2.3矩阵与数相乘157 A.2.4矩阵与矩阵相乘157 A.2.5矩阵转置157 A.3逆矩阵158 A.3.1逆矩阵的定义158 A.3.2代数余子式158 A.3.3伴随矩阵158 A.3.4矩阵求逆158 A.4矩阵初等变换159 A.4.1矩阵行初等变换159 A.4.2矩阵列初等变换159 A.5向量159 A.5.1向量的定义159 A.5.2向量的内积159 A.5.3向量的长度160 A.5.4向量的范数160 附录B概率论基础161 B.1随机实验161 B.2概率161 B.3频率161 B.4等可能概型162 B.5联合概率162 B.6条件概率162 B.7概率的重要性质163 B.8统计推断163 附录CPython基础164 C.1变量164 C.2注释164 C.2.1单行注释164 C.2.2多行注释165 C.3输入、输出165 C.3.1输入165 C.3.2输出165 C.4数据类型165 C.4.1List（列表）166 C.4.2Tuple（元组）166 C.4.3Set（集合）166 C.4.4Dictionary（字典）167 C.5运算符167 C.6条件语句168 C.7循环语句168 C.7.1for循环168 C.7.2while循环169 C.7.3循环控制169 C.8函数169 C.9类和对象170 C.10文件操作170 C.10.1文件的打开、关闭170 C.10.2文件的读、写171 C.11模块、包171 C.12常用的第三方库172 C.12.1numpy库172 C.12.2matplotlib库172 C.12.3sklearn库173