2021-06-29 机器学习课程笔记

机器学习课程笔记

基础知识点

• supervised learning(Luns，监督学习，给标注的数据训练)

• unspervised learning（无监督学习，无标注的数据，马尔科夫列）

• semi-supervised learning（一些标注，一些不标注）

• 参数机器学习
  优点：简单（结果易理解和解释），快速（从数据中学的很快），少量数据。
  局限性：选择的函数对模型的形成有约束；复杂度有限，适合简单模型；想象与实践存在很多差别。

• 非参数机器学习算法

• 机器学习
  

• 算法常见例子
  Logistic Regression
  LDA（线性判别分析）
  感知器
  朴素贝叶斯
  简单的神经网络

• 步长具体是什么意思？（步长过大/过小）
  步长（学习率），用来控制算法每次移动的距离，在公式中用α表示：
  
  为什么要选择合适的步长（step-size）？因为如果加一条规则——必须刚好到达目的值，如果步长较小，则总是能得到最优解，但是要迭代多次才能收敛；步长过大容易超过目标值，使之无法收敛或者会发散，导致永远达不到目标值。
  

• 代价函数：
  

课堂关键词—keywords

• parametric model
• K-Nearest Neighbor(k-NN)
  k-NN for predication
• Minkowski Distance
• Euclidean distance 欧几里得距离（r=2）
• Manhattan distance 曼哈顿距离（r=1）
• Edited Measure
• Bayed rule

Matlab学习

1. 曲线：PLOT（X,Y,S），X,Y是坐标，S表示颜色、形状。

• 初等实例：
  x=linspace(0,2*pi,30)
  y=sin(x)
  z=cos(x)
  plot(x,y,‘r’,x,z,‘go’) //g是绿色，o是圆圈

• 中等实例：
  ezplot(‘sin(x)’,[0,pi])
  ezplot(‘cos(x)’,[0,2pi])
  ezplot(‘cos(t)^3’,'sin(t)3’,[0,2pi])

• 高级实例：
  
  版本不一样，语法有些区别