35 机器学习（三）：混淆矩阵|朴素贝叶斯|决策树|随机森林

分类模型的评估

一般最常见使用的是准确率，即预测结果正确的百分比，我们之前写的那个KNN所使用的就是准确率，但是实际上在很多的别的使用场景上，我们关注的并不只有准确性，比如后面会举一个个人理解的例子，进行分析。

混淆矩阵

在分类任务下，预测结果(Predicted Condition)与正确标记(True Condition)之间存在四种不同的组合，构成混淆矩阵。

这边的理解我们带入例子，进行理解，并理解一下为什么只有准确度并不能完全说明这个模型预测的好坏，我们把这个带入医生系统，去判断病人是否有病

TP：病人有病，被你预测成有病。
TN：病人没病，被你预测成没病。
FP：病人没病，被你预测成有病。
FN：病人有病，被你预测成没病。

明显对于医生预测系统来说，我们除了关注准确度来说，FN也是一个关键值，对于一个病人有病，却被诊断为没病，这是非常致命的缺陷，我们甚至希望牺牲掉部分准确性，去提升这一事故的发生。

精确率和召回率

精确率：预测结果为正例样本中真实为正例的比例（查得准）：TP/TP+FP
召回率：真实为正例的样本中预测结果为正例的比例（查的全，对正样本的区分能力）：TP/TP+FN

接口介绍

这个只是做接口介绍，具体的使用放在下面的朴素贝叶斯进行使用。

sklearn.metrics.classification_report(y_true, y_pred, labels=[], target_names=None )

y_true：真实目标值
y_pred：估计器预测目标值
labels:指定类别对应的数字
target_names：目标类别名称
return：每个类别精确率与召回率

其他的补充

参考链接：链接1
链接2

朴素贝叶斯

基础原理介绍

在学习概率论的时候，我们已经学习过了朴素贝叶斯，这是一个后验概率。
详细见链接

下面讲点，自己的理解：

即我们对于这个公式的分类理解：
我们现在想要做一个根据文章出现的关键词，进行判断这篇文章是不是属于科技类的新闻，那么概率就是P(科技|‘云计算’ ‘高帧’ ‘计算机’···)，但这个概率明显是没有办法进行求取的，但是我们可以根据这个贝叶斯公式进行转化

直接变成（P(云计算|科技) * P（科技） * ···）/ P（‘云计算’ ‘高帧’ ‘计算机’···）

这明显都可以根据已有的条件进行推出，这也就是这个公式的意义。

朴素贝叶斯的实现API：

sklearn.naive_bayes.MultinomialNB

拉普拉斯平滑

在求取概率的时候，有时候由于每个参数出现的次数太少，然后根据我们上面的公式一个为0之后，那么之后所有的样本都不用进行计算，直接全为0了，所以我们这边采用拉普拉斯平滑进行处理，让其脱离0的局限。

处理就是在求条件概率的时候，上方加上一个alpha，下方加上alpha*样本数目。

实现接口：

sklearn.naive_bayes.MultinomialNB(alpha = 1.0)

下面给出应用的例子

数据就是20类新闻的那个数据。

# 朴素贝叶斯进行文本分类 以及使用检测那个混淆矩阵的 精确率和回归率
from sklearn.datasets import fetch_20newsgroups
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.metrics import classification_report,roc_auc_score

# 数据准备 sklearn就是好啊，直接给的都不需要进行数据处理
news = fetch_20newsgroups(subset='all', data_home='dataset')
print(len(news.data)) # 看一下共有多少条新闻

# 进行数据分割
x_train, x_test, y_train, y_test = train_test_split(news.data, news.target, test_size=0.25, random_state=1)

# 开始特征工程的工作 对数据集进行特征抽取 这一部分之前也讲解过，不细看，由于这个数据是纯英文的，所以不需要进行jieba分词
tfidef = TfidfVectorizer()
x_train = tfidef.fit_transform(x_train)
x_test = tfidef.transform(x_test)

# 训练 准备开始训练
# 进行朴素贝叶斯算法的预测,alpha是拉普拉斯平滑系数，分子和分母加上一个系数，分母加alpha*特征词数目
mlt = MultinomialNB(alpha=1.0)

# 开始训练
mlt.fit(x_train, y_train)

# 训练结束 开始预测
y_predict = mlt.predict(x_test)


# 得出准确率,这个是很难提高准确率，为什么呢？
print("准确率为：", mlt.score(x_test, y_test))

# 计算精准率和召回率
print("每个类别的精确率和召回率：\n", classification_report(y_test, y_predict, target_names=news.target_names))

#