李航老师《统计学习方法》第十四章聚类方法课后题答案

原创 已于 2022-11-09 14:31:25 修改 · 4.4k 阅读 · 32
标签
#聚类 #算法 #数据挖掘
于 2021-05-15 20:20:19 首次发布
这篇博客深入探讨了分裂聚类算法的自上而下实现及其时间复杂度，证明了类定义之间的相互推导，并展示了k均值算法解的指数级数量。同时，对比了k均值聚类与高斯混合模型在EM算法下的异同，指出两者在应用场景和收敛性上的特点。

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。

1、试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。

解：
算法流程大致如下：
输入：数据集T，指定需要划分的簇数k
输出：k个数据集的子集

  1. 将数据集T中的所有样本作为一个初始簇。
  2. 在所有的簇中选择直径最大的簇记为 C 0 C_0 C0​。
  3. 计算簇 C 0 C_0 C0​中所有的点到其他点的平均距离最大的点 p 0 p_0 p0​放在一个新的簇 C n e w C_{new} Cnew​中， C 0 C_0 C0​中剩余的样本构成的簇记为 C o l d C_{old} Cold​
  4. 然后重复一下过程：对 C o l d C_{old} Cold​中的点 x x x，如果 x x x到 C n e w C_{new} Cnew​的距离比 x x x 到 C o l d C_{old} Cold​中距离 x x x最近的点的距离要小，那么就将点 x x x放在新的簇 C n e w C_{new} Cnew​中，除了点
最低0.47元/天 解锁文章
李航《统计学习方法》课后习题答案（第2版）
weixin_43646592的博客
02-19 2万+
李航《统计学习方法》课后习题答案（第2版） 章节 链接 第1章 统计学习及监督学习概论 点击进入 第2章 感知机 点击进入 第3章 k近邻法 点击进入 第4章 朴素贝叶斯法 点击进入 第5章 决策树 点击进入 第6章 逻辑斯谛回归与最大熵 点击进入 第7章 支持向量机 点击进入 第8章 提升方法 点击进入 第9章 EM算法及其推广 点击进入 第10章 隐马尔可夫模型 点击进入 第11章 条件随机场 点击进入     也可进入我的个人主页查看分类专栏
《统计学习方法（第2版）》李航 第14章 聚类方法 思维导图笔记 及 课后习题答案（步骤详细） k-均值 层次聚类 第十四章
qq_26928055的博客
05-03 1847
思维导图： 14.1 试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。 i. 计算n个样本两两之间的距离，并将所有样本看作一个类，将样本间最大距离作为类直径； ii. 对于类直径最大的类，将其中相距最远，也就是距离为类直径的两个样本分成两个新类，该类其他样本就近（相对于那两个选中的样本）归于两个类之一； iii. 如果类别个数达到停止条件（预设的分类书）则停止，否则回到ii.步骤。 模型复杂度O(nnmn),与聚合（agglomerative）算法复杂度相同。 14.2 证明类或簇的四个
李航老师统计学习方法答案汇总
qq_41626059的博客
05-15 1万+
由于博主本人还没把这本书的算法学完，所以答案还在持续更新中… 第一章 第二章 第三章 第四章 第五章 第六章 第七章 第八章 第九章 第十章 第十一章 第十四章 第二十一章
李航博士《统计学习方法》第一章课后习题参考答案
Siyu_Zhu的博客
03-06 1782
李航博士《统计学习方法》第一章课后习题参考答案
层次聚类和密度聚类思想及实现
瞳瞳瞳呀
05-29 2729
层次聚类 层次聚类的概念： 层次聚类是一种很直观的算法。顾名思义就是要一层一层地进行聚类。 层次法（Hierarchicalmethods）先计算样本之间的距离。每次将距离最近的点合并到同一个类。然后，再 计算类与类之间的距离，将距离最近的类合并为一个大类。不停的合并，直到合成了一个类。其中类与类 的距离的计算方法有：最短距离法，最长距离法，中间距离法，类平均法等。比如最短距离法，将类与类 的距离定义为类与类之间样本的最短距离。 层次聚类算法根据层次分解的顺序分为：自下底向上和自上向下，即凝聚的层次聚类算法
李航 统计学习方法 第二版 课后习题答案 机器学习
weixin_43646592的博客
01-09 2448
李航 统计学习方法 第二版 课后习题答案 机器学习
电信保温杯笔记——《统计学习方法（第二版）——李航》第14章 聚类方法
sinat_39448069的博客
03-14 1898
电信保温杯笔记——《统计学习方法（第二版）——李航》第14章 聚类方法论文介绍聚类的基本概念样本的相似度或距离闵可夫斯基距离马哈拉诺比斯距离相关系数夹角余弦类或簇定义特征距离聚类算法层次聚类聚合聚类步骤例子k 均值聚类模型策略算法特性本章概要备注相关视频相关的笔记 论文 电信保温杯笔记——《统计学习方法（第二版）——李航》 CRF算法： 介绍 本文是对原书的精读，会有大量原书的截图，同时对书上不详尽的地方进行细致解读与改写。 聚类是针对给定的样本，依据它们特征的相似度或距离，将其归并到若干个“类”或“簇”的
李航老师《统计学习方法》第二版第一章答案详解
qq_41626059的博客
04-05 5566
1、说明伯努利模型的极大似然估计和以及贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0与1的随机变量上的概率分布。假设观测到伯努利模型n次独立的数据生成结果，其中k次的结果为1，这时可以用极大似然估计或贝叶斯估计来估计结果为1的概率。 解： 模型三要素是： 模型 策略 算法 极大似然估计 概率模型 经验风险最小化 数值解 贝叶斯估计 概率模型 结构风险最小化 解析解 设x1,x2,...,xnx_{1}, x_{2},..., x_{n}x1​,x2​,...,xn​为
李航《统计学习方法》习题答案
Mr_Cat123的博客
01-25 1万+
前言：本系列习题系笔者主观完成，一家之言难免有错误之处 持续更新中… 第一章 1.2 经过经验风险最小化推导极大似然估计。证明模型是条件概率分布，当损失函数是对数损失函数时，经验风险最小化等价于极大似然估计。 先说极大似然估计。设X1,X2,…Xn是来自XXX的样本，则X1，X2，…Xn的联合分布律为： ∏i=1np(xi;θ)\prod_{i=1}^n p(x_i;\theta)i=1∏...
李航 统计学习方法 课后习题答案
热门推荐
我的博客
07-09 4万+
第一章 https://blog.csdn.net/familyshizhouna/article/details/70160782 第二章 2.1-2.2 https://blog.csdn.net/cracker180/article/details/78778305 2.3 https://blog.csdn.net/xiaoxiao_wen/arti...
李航老师《统计学习方法》第二版第七章课后题答案
qq_41626059的博客
04-23 8204
1、比较感知机的对偶形式与线性可分支持向量机的对偶形式。 1.1、感知机的对偶形式 由于李航老师书上的感知机的对偶形式有点问题，这里先对其进行一下改进 最后学习到的感知机的参数是： w=∑i=1Nαiyixi(1)w = \sum_{i = 1}^{N}\alpha _{i} y_{i} x_{i} \tag{1}w=i=1∑N​αi​yi​xi​(1) b=∑i=1Nαiyi(2)b = \sum_{i = 1}^{N}\alpha _{i} y_{i} \tag{2}b=i=1∑N​αi​yi​(2
李航老师《统计学习方法》第二版第五章决策树课后答案
qq_41626059的博客
04-18 8771
1、根据表5.1所给的训练数据集，利用信息增益比（C4.5算法）生成决策树。 解： 下面先给出计算信息增益比的程序，并且输出最好的特征 import numpy as np def info_ratio(D, Y, n): ''' 计算信息增益比 Parameters ---------- D : numpy array 训练数据集. Returns ------- 最优特征. ''' #下面开始修正数据
《统计学》第八版贾俊平第十四章指数知识点总结及课后习题答案
WHNWZY的博客
06-19 2万+
贾俊平《统计学》第十四章指数知识点总结及课后习题答案
8. 聚类算法
柳杰的博客
02-21 462
文章目录引言一、相似度或距离1.闵可夫斯基距离2.马氏距离3.兰氏距离4.斜交空间距离5.相关系数6. 夹角余弦二、类或簇1.类的定义2.类的特征3.类间距离三、层次聚类1.聚合聚类 引言 一、相似度或距离 1.闵可夫斯基距离 2.马氏距离 3.兰氏距离 4.斜交空间距离 5.相关系数 6. 夹角余弦 二、类或簇 1.类的定义 2.类的特征 3.类间距离 三、层次聚类 1.聚合聚类 ...
百面机器学习—7.K均值算法、EM算法与高斯混合模型要点总结
柳杰的博客
04-23 1332
文章目录一、总结K均值算法步骤二、如何合理选择K值？三、K均值算法的优缺点是什么？四、如何对K均值算法进行调优？五、EM算法解决什么问题？六、EM算法流程是什么？六、EM算法能保证收敛嘛？如果收敛能收敛到全局最大值嘛？七、EM为什么不用牛顿法或者梯度下降?八、高斯混合模型GMM的核心思想是什么？九、高斯混合模型是如何迭代计算的？十、高斯混合模型与K均值算法比较十一、如何快速收敛数据量大的k-means算法？ 一、总结K均值算法步骤 二、如何合理选择K值？ 手肘法 我们可以尝试不同的K值，并将不同K值所对
李航 统计学习方法 第一章 课后 习题 答案
fxnfk
04-14 3万+
1.1统计学习方法的三要素是模型、策略、算法。伯努利模型是定义在取值为0与1的随机变量上的概率分布。统计学分为两派：经典统计学派和贝叶斯统计学派。两者的不同主要是，经典统计学派认为模型已定，参数未知，参数是固定的，只是还不知道；贝叶斯统计学派是通过观察到的现象对概率分布中的主观认定不断进行修正。极大似然估计和贝叶斯估计的模型都是伯努利模型也就是条件概率模型；极大似然估计用的是经典统计学派的策略，贝叶
《统计学习方法（第2版）》李航 第19章 马尔可夫蒙特卡罗法 MCMC 思维导图笔记 及 课后全部习题答案（步骤详细， 包含Metropolis算法，吉布斯算法代码实现）第十九章
qq_26928055的博客
05-26 1631
思维导图： 19.1 用蒙特卡罗积分法求： ∫−∞∞x2exp⁡(−x22)dx \int_{-\infty}^{\infty} x^{2} \exp \left(-\frac{x^{2}}{2}\right) d x ∫−∞∞​x2exp(−2x2​)dx 首先将被积函数分解为分布函数与待求期望的函数的乘积： KaTeX parse error: No such environment: align at position 8: \begin{̲a̲l̲i̲g̲n̲}̲&\int_{-\inf
李航老师《统计学习方法》第二版第十一章课后习题答案
qq_41626059的博客
10-05 4602
11.1、写出图11.3中无向图描述的概率图模型的因子分解式。 解：根据最大团的定义可知，该最大团共有两个最大团，李航老师的书上也指了出来。分别是： c1=(Y1,Y2,Y3),c2=(Y2,Y3,Y4) c_{1}=(Y_{1},Y_{2},Y_{3}), c_{2}=(Y_{2},Y_{3},Y_{4})c1​=(Y1​,Y2​,Y3​),c2​=(Y2​,Y3​,Y4​) 那么根据Hammersley-Clifford定理，可以将图11.3上面的无向图的联合概率分布表示为: P(Y)=1Z∗Ψc1(
李航统计学习方法课后习题答案总结
Enola_li的博客
06-14 4829
写在前面：在做作业的时候纯属为了方便整理的，如有侵权，联系删除 第一章 https://blog.csdn.net/familyshizhouna/article/details/70160782 第二章 2.1-2.2 https://blog.csdn.net/cracker180/article/details/78778305 2.3 https://blog.csdn.net/xiaoxiao_wen/article/details/54097835 感知机，线性可分和线性不可分的相关讨论，htt
《统计学习方法》各章节课后习题参考解答
随笔
02-02 2253
文章目录第二章 感知机第三章 k近邻法 第二章 感知机 第三章 k近邻法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值