西瓜书第一章和第二章总结-DataWhale吃瓜教程-task01

Hello！ଘ(੭ˊᵕˋ)੭昵称：海轰标签：程序猿｜C++选手｜学生简介：因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！唯有努力💪本文仅记录自己感兴趣的内容文章仅作为个人学习笔记记录，记录从0到1的一个过程希望对您有一点点帮助，如有错误欢迎小伙伴指正。

虽然只剩了0.5学分需要修，但是为了以后读研入门方便所以义无反顾地选了这门上课人数只有个位数的3学分的选修课。听课听的确实有些吃力，而且感觉机器学习不像自己之前想当然以为的那样是一种纯编程的课程。目前个人感觉机器学习更像是一种解决问题的数学方法，而编程只是实现这一方法的工具。为了以后读研（和期末考试）方便，特此将西瓜书的课后题（作业部分）记录在此，希望能加深自己的理解。希望评论区能有大佬对我不成熟且非独立思考出来的解题思路进行指正，共勉🤝🤝希望能快点领悟机器学习神经网络的内涵吧(ง •_•)ง。

这两天读了西瓜书第一、二两章，了解了基本术语和留出法、交叉验证法、自助法等模型评估方法。但是关于性能度量里的F1度量及其一般形式Fbeta等我还有一些没想清楚的地方。

西瓜书一二章笔记

3.1基本形式 线性模型旨在学得一个通过属性（特征）的线性组合来进行预测的函数 向量形式可写为 3.2线性回归 1.线性回归旨在学得一个线性模型以尽可能准确地预测。 2.对于离散特征，若有序（“高”与“矮”），可通过连续化转化为连续值；若无序（“西瓜”与“南瓜”），则通常转化为k维向量。 3.线性回归为尽可能准确地预测实值输出标记，需要确定w和b，使得f(x)与y差别尽可能小，即使均方误差误差最小化。可以使用最小二乘参数估计的方法得到w和b的最优解，具体推导过程如下： ...

本次笔记涉及西瓜书1-2.3.3章节，南瓜书1-2.3.7，教学资料来源于datawhale。本次笔记的主要内容是一些概念总结，以及我个人的思考。datawhale详情链接b站教程：https://www.bilibili.com/video/BV1Mh411e7VU南瓜书开源链接：https://github.com/datawhalechina/pumpkin-book/releases。

【Task01】Datawhale202205组队学习 吃瓜教程 机器学习西瓜书+南瓜书 概览西瓜书+南瓜书第1、2章 学习建议：概览西瓜书第1章和第2章的基本概念和术语，跳过以下内容： 第1章：【1.4-归纳偏好】可以跳过 第2章：【2.3.3-ROC与AUC】及其以后的都可以跳过 目录西瓜书勘误（转）第1章 绪论1.1 引言1.2 基本术语1.3 假设空间1.4 归纳偏好1.5 发展历程1.6 应用现状1.7 阅读材料第2章 模型评估与选择2.1 经验误差与过拟合2.2 评估方法2.2.1 留出法2.2

西瓜书基本术语： 第一章 第二章：模型评估与选择

西瓜书第一章课后习题

第一章 绪论 参考 1、 资料： 分清楚假设空间和版本空间 如何得到版本空间: 在假设空间中删除与正例不一致，与反例一致的假设即可得到版本空间 正确答案 解答： 只有1、4两个数据，那么颜色假设则有青绿/乌黑/*，根蒂有蜷缩/稍蜷/*，敲声有浊响/沉闷/*； 加上“不存在好瓜这个概念”即空集，假设空间大小为3x3x3+1=28。 版本空间：删去与正例不一致，与反例一致的假设 > 由于正例1，删去颜色不是青绿的/根蒂不是蜷缩的/敲声音不是浊响的； 由于存在好瓜，去掉空集； > 由于存在

文章目录题目全部代码画图代码未减枝思想画图预剪枝思想画图后剪枝思想画图比较总结参考 题目 试编程实现基于基尼指数进行划分选择的决策树算法，为表4.2中数据生成预剪枝、后剪枝决策树，并与未剪枝决策树进行比较。 (牢骚：剪枝这块真是头大，剪枝的原理很清晰，代码实现的时候遇到了问题，看了一些代码，不知道是可读性的问题还是自己反应慢，最后还是靠着自己的理解实现了，自知水平不行，现记录一下。） 全部代码 画...

作业1 描述逻辑回归算法 作业3 整理逻辑回归参数 参考链接1-博客 参考链接2-sklearn文档

周志华老师《机器学习》第二章的自我学习笔记

前段时间开始学习周志华老师的《西瓜书》，许多问题都是参考这篇大神的博客点击打开链接 这份课后习题答案无论是数学推导还是matlab仿真都写的很到位，从中学习到了许多。 目前学到了第11章的知识，附上自己用python编译的课后习题代码点击打开链接，都是本人编写，可以直接运行～

西瓜书电子版课后答案汇总: https://blog.csdn.net/icefire_tyh/article/details/52064910?utm_source=app

目录前言学习路线Task00：熟悉规则（1.9）Task01：概览西瓜书+南瓜书第1、2章（1.10、1.11）Task02：详读西瓜书+南瓜书第3章（1.12-1.17）一、一元线性回归与多元线性回归（1.12、1.13）二、对数几率回归（1.14、1.15）三、线性判别分析（1.16、1.17）Task03：详读西瓜书+南瓜书第4章（1.18-1.20）Task04：详读西瓜书+南瓜书第5章（1.21-1.23）Task05：详读西瓜书+南瓜书第6章（1.24-1.27）一、支持向量机（1.24-1.2

第1章 绪论 1.1 引言 机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。 “经验”通常以“数据”的形式存在。 机器学习研究的主要内容： 在计算机上从数据中产生“模型”（model）的算法，即“学习算法”。（learning alorithm） 机器学习是研究“学习算法”的学问。 1.2 基本术语 记录 属性 属性值 属性空间（样本空间、输入空间）特征向量 维数 学习（训练）标记（带有结果信息） 样例 标记空间（输出空间） 分布 独立同分布 学习的过程是为了逼近真相 分类：对于离散值

支持向量机的基本公式及概念笔记

参照西瓜书的课后习题3.5的要求，参考了一些资料，简单地实现了一下LDA。 数据还是西瓜数据3.0a 代码和数据，都挂在了我的git上：https://github.com/qdbszsj/LDA 首先第一部分还是画一个散点图，这个跟上一个习题是一样的，此处不详细表述了。 然后是先用sklearn偷懒实现一下LDA，这里要注意下模型参数的选择，对于小数据一般选择lsqr，这里给出了官方的r