机器学习的基础概念

1、数据处理阶段
数据清洗
数据转换
数据降维
 
2、特征工程
特征选择
特征提取
模型选择与评估
 
3、监督算法
广义线性模型
最小二乘法
LDA
SGD
K近邻
高斯过程
决策树（ID3，C4.5，C5.0，CART）
朴素贝叶斯
支持向量机
集成学习（Bagging，RF，AdaBoost，Gradient Tree Boosting，Voting Classifier）
感知机模型
多分类算法
 
4、无监督算法
K-means
Affinity propagation
Mean-shift
Spectral clustering
Ward hierachical
Agglomerative clustering
DBSCAN
Gaussian mixtures
Birch
 
5、推荐算法
相似度计算
Arules关联规则
Fp-Growth
User-based or Item-based
 
6、半监督模型
Label Propagation
 
7、其他模型
概率图模型
最大熵模型
规则学习
强化学习
条件随机场
保序回归（Isotonic regression）
Probability calibration