本书详细介绍了机器学习的基础概念和算法，包括线性模型（逻辑回归与线性判别分析）、决策树、贝叶斯分类器、k近邻法、数据降维和聚类。还探讨了支持向量机、人工神经网络、半监督学习和集成学习，以及数据预处理和模型评估。通过Python编程实践，帮助读者掌握机器学习的关键技术。
第一章 线性模型
逻辑回归与线性回归
理论
回归分析：回归分析的本质是函数估计的问题（包括参数估计和非参数估计），依据因变量的联系或离散分为回归或者分类，是一种有监督学习方法。
广义线性模型：拟合的是关于y的可导函数，如逻辑回归，拟合的就是y的ln函数。
线性回归求解的两个表示：用最小化均方误差和基于高斯分布的极大似然估计求解线性回归，其结果是一样的（在线性回归中假设Y|X服从高斯分布，而逻辑回归服从伯努利分布）。线性回归是一种特征线性加和就能得到最终结果的模型。
逻辑回归：因为普通线性模型的因变量是连续的，所以想法是将其转化为离散的，直观想法是阶跃函数，而阶跃函数不可导，所以选取对数概率函数P(y=1/x⃗)=11+e−z,z=w⃗⋅x⃗+bP ( y = 1 / \vec { x } ) = \frac { 1 } { 1 + e ^ { - z } } \quad , z = \vec { w } \cdot \vec { x } + bP(y=1/x)=1+e−z1,z=w⋅x
扫一扫
1185
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
