机器学习之朴素贝叶斯简介

综述

适用于标称型数据的监督学习方法。NB本质是个分类问题，根据样例属于哪个类的概率的大小判断样本属于哪个类。
朴素贝叶斯有两个基本条件：朴素和贝叶斯定理

• 朴素：
  朴素指的是特征之间的相互独立性假设，就是特征1和特征2之间发生的概率相互不受影响。特征1发生与否和特征2无关。
  另外，每个特征同等重要。
• 贝叶斯定理：
  

算法流程

统计各个特征分类的出现情况，计算概率=>训练模型。

NB中常用的几个模型：

高斯模型

有些特征可能是连续型变量，比如说人的身高，物体的长度，这些特征可以转换成离散型的值。通过高斯分布，可以把连续的变量转换成标称型变量。

比如连续型的变量，设定一些“标杆”，将其离散化。

多项式模型

该模型常用于文本分类，特征是单词，值是单词的出现次数。

垃圾邮件过滤系统：根据某些单词在邮件中的出现情况，判断该邮件是否是垃圾邮件。根据训练集中垃圾邮件中出现这些单词的情况判断。

邮件向量化。
字典大小是N，邮件中单词个数是i，wi代表第i个单词
根据邮件内的单词，把邮件映射成维度是N的向量x，xi=1代表单词wi在邮件中出现过，否则（xi=0）就是没出现过。

判定垃圾邮件：如果重要邮件的优先级高于垃圾邮件，可以设定一个阀值（倍数）只有当计算的结果大于这个倍数，才判