机器学习day1－－机器学习概览

今天开始接触机器学习，我基于书本做了一些基本的总结和自己的感受

强烈推荐下面这篇文章，可以让你对机器学习有一个很好的基本印象

机器学习入门好文，强烈推荐_机器学习经典总结_Ritter_Liu的博客-CSDN博客

1.1什么是机器学习

比较工程化的定义:一个计算机程序利用经验e来学习任务t，性能是p，如果针对任务t的性能p随着经验e不断增长，则称之为机器学习

就像人学习的过程，通过学习（经验e）来学习，学习的内容就像是学习任务t，后面再考试，考试成绩（性能p）

1.2为什么要使用机器学习

机器学习善于处理对于传统方法而言太复杂或没有以知算法的问题详细的理解可以看书本p14页

机器学习主要适用在

1.有解决方案（但解决方案需要进行大量人工微调或需要遵循大量规则）的问题:机器学习算法通常可以简化代码，相比传统方法有更好的性能

2.传统方法难以解决的复杂问题:最好的机器学习技术也许可以找到解决方案

3.环境有波动:机器学习算法可以适应新数据

4.洞察复杂问题和大量数据

1.3机器学习系统的类型

1.3.1有无监督学习

有监督学习，提供给算法的包含所需要解决方案的训练集成为标签

分类任务是一个典型的有监督学习任务详细的例子书p18

回归任务是通过给定一组称为预测器的特质（里程，使用年限，品牌等）来预测一个目标数值（列如汽车的价格），要训练这样一个系统，需要大量的汽车示例，包括他们的预测器和标签（及价格）

简单的理解:分类任务的结果大多是为是或者否，即0/1，回归任务往往为一个数值（要预测的标签）

在机器学习中，属性是一种数据类型（如里程）

特征意味着一个属性加上其值（如里程＝15000）

一些回归算法可以用于分类任务，反之亦然，如逻辑回归就被广泛地用于分类

有监督算法常用的有:k-近邻，线性回归，逻辑回归，svm，决策树和随机森林，神经网络

无监督有:

聚类:k-均值算法，dbscan，分层聚类分析

异常检测和新颖性检测:单类svm，孤立森林

可视化和降维:主成分分析（pca），核主成分分析等

关联规则学习:apriori，eclat

在这介绍一些:可视化通过提供大量复杂的，未被标记的数据，算法绘制出2d或3d表示，以便我们理解这些数据是怎么组织的。降维:目的在于不丢失太多的信息的前提下简化数据，方法之一是将多个相关特征合并为一个例如，汽车里程与其使用年限存在很大的相关性，所以降维算法把他们合并成一个代表汽车磨损的特征，这个过程叫特征提取，通常比较好的做法是，先使用降维算法减少训练数据的纬度，再将其提供给另一个机器学习算法，这会使他运行得很快，数据占用的磁盘空间和内存都会更小，在某些情况下，执行性能也会更高。异常检测也很重要，强化学习类似于人的学习，更多详细的p22页

1.3.2基于实例的学习和基于模型的学习

基于实例的学习主要是通过相似度度量来比较

基于模型的学习从一组示例集中实现泛化的另一种方法是够建这些示例的模型，然后使用该模型进行预测。

模型的选择包括选择模型的类型和完全指定他的架构。训练一个模型意味着运行一种寻找模型参数的算法，使其最适合训练数据

研究模型，选择模型，使用训练数据进行训练，最后，应用模型对新示例进行预测，希望模型的泛化结果不错

1.4机器学习的主要挑战

1 训练数据的数量不足

2 训练数据不具有代表性

3 低质量数据

4 过拟合训练数据:指模型在训练数据上的表现良好，但是泛化时却不尽人意

主要的解决方案有

简化模型:可以选择较少参数的模型，也可以减少训练数据中的属性数量，或者是约束模型

收集更多的训练数据

减少训练数据中的噪声

正则化:通过约束模型使其更简单，并降低拟合风险

5 欠拟合训练数据:与过拟合刚好相反，一般是模型过于简单

主要的解决方案有

选择一个带有更多参数，更强大的模型

给学习算法提供更好的特征集（特征工程）

减少模型中的约束（例如减少正则化超参数）

1.5测试与验证

了解一个模型对于新场景的泛化能力的唯一办法就是让模型真实地去处理新场景

选择一般是将数据分割成两部分:训练集和测试集，可以用训练集的数据来训练模型，然后用测试集的数据来测试模型。