2020年哈工大机器学习期末试题回忆版

哈工大本部2022秋机器学习期末试题

支持向量机于1995年正式发表，由于在文本分类任务中显示出卓越性能，很快成为机器学习的主流技术，并直接掀起了“统计学习”在2000年前后的高潮。--周志华《机器学习》

包含第八章、采样1.采样的作用。第九章、前向神经网络 1.多层感知机与布尔函数 2.神经网络中的激活函数 3.多层感知机的反向传播算法 4.神经网络训练技巧 5.深度卷积神经网络 6.深度残差网络第十章、循环神经网络 1.循环神经网络和卷积神经网络 2.循环神经网络的梯度消失问题 3.循环神经网络的激活函数 4.长短期记忆网络LSTM 5.Seq2Seq模型 6.注意力机制

哈工大2021秋机器学习期末试题 刚刚经历了机器学习复习和考试，觉得这门课的期末考试往年题还是很有参考价值的。所以我在考试的时候抽了点时间把期末题记了一下，希望能对学弟、学妹（如果有的话）考前复习有所帮助。跟前几年的题一样，没标准答案，如果有大佬愿意把自己做的标答贡献出来再更新吧。 一、参数正则化和参数先验间有什么关系？在机器学习模型参数估计的过程中，正则化的目的是什么？ 二、请写出条件熵的定义，举一个本课程应用该方法的例子，说明这样做的好处，并给出直观的解释、 三、朴素贝叶斯模型的基本假设是什么？这样假设

前几题都是抄的原题，后面几题太长了，就写了个大概。 1， 请说明参数正则化和参数先验之间的联系；并解释在机器学习模型参数估计中用正则化的目的是什么。（6分） 2. 请给出条件熵的定义。并举一本课程应用该方法的例子（应该是一本课程，不是一本例子）。说明这样做的好处是什么。给出你的直观解释。（8分） 3. 朴素贝叶斯模型的基本假设是什么？这样的假设会带来什么样的好处。如果在实际应用中该假设满足，则朴素贝叶斯是出错概率意义下的最优分类器吗？请说明为什么？（8分） （这题没有原题目了，只有我记的

机器学习期末考试 一、机器学习链接 1、机器学习期末复习试卷_zhouyan2000的博客-CSDN博客_机器学习期末考试} 2、[机器学习笔试题]((4条消息) 机器学习笔试题目_北冥有小鱼-CSDN博客_机器学习题目) 3、机器学习面试题 4、一天1个机器学习知识点（一）_猫猫玩机器学习的博客-CSDN博客 5、山东大学软件学院机器学习（考试）——期末考试回忆版_ALTLI的博客-CSDN博客_机器学习期末 6、机器学习试题_AI_盲的博客-CSDN博客_机器学习试卷 7、机器学习题 【含答案和解析】_

考完啦，开心。 希望老师能手下留情，我已经尽力把卷子写满了。 2021秋期末考试（大概题意） ​ 1.参数先验和参数正则化的关系，说说你的理解。参数正则化在机器学习中的作用。（6分） ​ 2.条件熵的定义和公式。说说你对条件熵的理解。在机器学习课程中有哪些地方运用到了条件熵，请举例说明。（8分） ​ 3.朴素贝叶斯假设了什么？如果满足一个分类器朴素贝叶斯，请问在最小错误概率的角度看，该分类器是不是最优的分类器，说 明理由。（8分） ​ 4.K-means和GMM都运用了EM算法求解，请你说说它们之间的相同

网上窝工人工智能导论的真题较少，为了传承火炬精神，将24年春季学期的人工智能导论考试题回忆版发布在这里。

7.自编码器将输入向量x转换为中间向量z，再将中间向量z转换为向量x’，x’的长度与向量x的长度有什么关系（大于、小于还是等于）？6. P的概率分布为[0.1, 0.3, 0.6]，Q的概率分布为[0.1, 0.2, 0.7]，求P和Q的信息熵，以及P和Q的相对熵（即KL距离）。4. 下图为二维特征空间的二分类数据点分布图，使用完全线性可分情况下的SVM，结合图中信息，分别解释超平面、支持向量、样本点与分离超平面的几何间隔是什么。/*题目忘了，也比较简单，大多数都是常识性知识，考察细碎概念较多。

1.参数正则化与参数先验的关系，模型估计中参数正则化的作用 2.条件熵的定义，给出它在本课程中的一个应用，这样做有什么好处，给出你的直观理解， 3.朴素贝叶斯满足什么假设，在参数估计中有什么作用，朴素贝叶斯分类器是否是出错概率下的最优分类器，给出证明 4.k-means和GMM的EM算法在参数估计过程中有什么相同点和不同点，说明它们各自的优缺点。GMM算法的E步的更新公式是什么？M步优化的目标函数是什么？ 5.SVM在线性可分情况下的优化目标和约束条件。解的形式是什么(数学公式给出)。原问题就可以进行优化求

哈工大2020秋机器学习期末试题 (1) 样本标签Y和属性A1之间的信息可以选择属性。给出互信息的定义。 (2) 决策树空间很大，用互信息（信息增益）选择属性的目的？这样做有什么好处？ (3) 如何避免决策树过拟合？ Y为类别（两类，Y=0和Y=1）随机变量，将真实类为1的样本判断为类0造成的损失为a，反之为b，如下表。那么期望损失最小意义下的分类准则？并用图例说明。 Y：真实 \ 预测 0 1 0 0 a 1 b 0 (1) 结合图给出线性可分情况下的SVM的目标函数

哈工大2020秋机器学习期末试题1.决策树 (8分)2.贝叶斯决策 (8分)3.svm (8分)4.机器学习的方法 (8分)5.逻辑回归 (7分)6.pca (8分)7.k-means (8分)8.线性回归 (5分) 个人觉得题目整体不是很难，但是有几个地方不好写。我考试的时候犯浑读错题目意思了，白白耽误半个小时，最后还有三分钟才读懂题目意思，慌乱一顿写，写的乱七八糟的。 希望老师捞一手。 哭了。 通过这次考试我知道了语文的重要性，语文不好读个题都费事。 1.决策树 (8分) (1)什么是互信息 (2)用互

文章目录1 基础1.1 机器学习中的概率1.2 最大似然估计、最大后验概率1.3 最小二乘法、梯度下降法、共轭梯度法2 决策树2.1 熵2.2 条件熵2.3 相对熵（KL散度）2.4 交叉熵3 贝叶斯判别3.1 最优分类器3.2 线性判别3.3 生成式模型与判别式模型3.4 KNN4 线性回归、朴素贝叶斯与逻辑回归4.1 线性回归4.2 过拟合4.3 偏置与方差4.4 特征变换4.5 朴素贝叶斯4.6 逻辑回归5 SVM5.1 基本问题5.2 对偶问题5.3 软间隔 Soft Margin Hyperpla

机器学习这门课太搞心态了，没有教学大纲，老师上课不备课，临场发挥，英文的PPT，经常上课上着上着不知道老师讲啥去了，你永远不知道老师下节课讲什么，下一秒跳转到哪里去。且看老师的聊天记录。。。 还好室友给了一份2019年的期末试题，希望对备考的大家有帮助。我先跪了。 ...

一、说明参数正则化和参数后验之间的联系；并解释在机器学习模型参数估计中使用正则化的目的。 二、给出条件熵的定义。举一个本课程中应用该方法的例子，说明使用条件熵的好处，给出你的直观解释。 三、朴素贝叶斯的基本假设是什么，有什么好处。当假设满足时，朴素贝叶斯是否是最优分类器，说明原因。 四、k-means和GMM在EM估计过程中的相同和不同。各自有什么优缺点。写出GMM在E步的更新公式。M步求最大化期望的公式。 五、写出线性可分时SVM的目标函数和约束。其解的基本形式（数学公式）。为什么要使用对偶优化，