第4章 朴素贝叶斯-【千锋教育】Python快乐编程——机器学习从入门到实战同步教案

课程名称 第4章 朴素贝叶斯 计划学时 2学时 内容分析 本章主要介绍概率分布与贝叶斯决策论、条件概率、贝叶斯分类、朴素贝叶斯分类、实战：利用朴素贝叶斯分类模型进行文档分类、实战：利用朴素贝叶斯分类模型过滤垃圾邮件 教学目标 与教学要求 要求学生理解概率分析和贝叶斯决策论的相关概念、掌握条件概率和贝叶斯概率的计算方法、掌握朴素贝叶斯算法的相关概念、掌握通过朴素贝叶斯算法进行文档分类和垃圾邮件过滤的方法 教学重点 贝叶斯分类、朴素贝叶斯分类、实战：利用朴素贝叶斯分类模型进行文档分类、实战：利用朴素贝叶斯分类模型过滤垃圾邮件 教学难点 贝叶斯分类、朴素贝叶斯分类、实战：利用朴素贝叶斯分类模型进行文档分类、实战：利用朴素贝叶斯分类模型过滤垃圾邮件 教学方式 课堂讲解及ppt演示 教 学 过 程 第一课时 （概率分布与贝叶斯决策论、条件概率、贝叶斯分类） 了解Python机器学习知识 1.介绍本书，引出本课时的主题 决策树算法是一种非参数的监督学习方法, 常被用于从一组无序、 无规则的样本数据中推理出决策树表示形式的分类规则, 例如数据挖掘任务。 顾名思义, 决策树以树形数据结构来进行分类或预测决策, 在分类应用中, 决策树中的每个结点构成类标签, 叶子结点是最终的分类标号; 树中的分支由决策规则组成。 决策树是最常见的一种机器学习算法, 它易于实现, 可解释性强, 符合人类的直观思维。 本章将对决策树的构建以及实现方法进行讲解。 2.明确学习目标 （1） 能够了解概率分布与贝叶斯决策论 （2） 能够掌握条件概率 （3） 能够掌握贝叶斯分类 知识讲解 · 概率分布与贝叶斯决策论 概率分布是概率论的基本概念之一, 主要用于表述随机变量取值的概率规律。 为了方便使用, 根据随机变量所属类型的不同, 概率分布会有不同的表现形式。 事件的概率反映了该事件发生的可能性大小。 计算机科学的大部分任务属于完全确定事件, 计算机的 CPU 在绝大多数情况下可以完美地执行程序员设定的各个程序指令。 虽然有时可能会发生由硬件故障引发的错误, 但这类事件属于小概率事件, 大部分软件程序在实际设计中并不会考虑这类引发错误的因素。 · 条件概率 在进一步讲解贝叶斯算法之前, 有必要先了解条件概率的相关知识。 条件概率描述的是在事件B 已经发生的情况下事件A 发生的概率, 记作P (A|B ), 其中事件A 和B 的独立性未知, 表达式如下所示。 由于无法计算基于永远不会发生事件的条件概率, 因此只有当上述表达式中P (B ) >0时条件概率才有意义。 P (A ∩B ) 表示事件A 和事件B 同时发生的概率, 如果事件 A 和事件B 相互独立, 则有如下等式成立。 · 贝叶斯分类 贝叶斯算法常被用于解决关于随机事件 A 和B 的条件概率问题或边缘概率问题。 假设一个人每天中午都吃番茄炒蛋( 事件 A ), 那么这个人很可能非常喜欢番茄炒蛋这道菜(事件B )。 在上述场景中,P (B|A ) 表示在事件A 发生的情况下事件B 也发生的概率。 贝叶斯概率的公式如下所示。 上述公式中, 事件Bi 的概率为P (Bi ), 事件Bi 已发生条件下事件A 也发生的概率为P (A|Bi ), 事件 A 发生的前提下事件Bi 也发生的概率为P (Bi|A )。 在生活中, 人们往往很容易将两个事件的后验概率混淆, 用数学表达式表示这种混淆后验概率的情况为 第二课时 （实战：利用朴素贝叶斯分类模型进行文档分类、实战：利用朴素贝叶斯分类模型过滤垃圾邮件） 回顾内容 1. 回顾上节内容，引出本课时主题。 上节已经介绍了概率分布与贝叶斯决策论、条件概率、贝叶斯分类、朴素贝叶斯分类，下面开始讲解将单词表转换为向量、概率计算、通过朴素贝叶斯模型进行文件分类、切分文本、通过朴素贝叶斯模型过滤垃圾邮件。从而引出本节的内容。 2.明确学习目标 （1） 能够了解将单词表转换为向量 （2） 能够掌握概率计算 （3） 能够掌握通过朴素贝叶斯模型进行文件分类 （4） 能够掌握切分文本 （5） 能够掌握朴素贝叶斯模型过滤垃圾邮件 知识讲解 · 将单词表转换为向量 4.4 节介绍的朴素贝叶斯算法在机器学习中常被应用于文档的分类任务。 在文档分类任务中, 每封电子邮件都是一个实例, 针对不同的分类, 邮件中的某些元素构成了相应的特征。 通过分析文档中所出现的词, 将每个词的出现或者不出现视作一个特征, 通过这种方法所得到的特征数与词汇表中的词的数量是一致的。 假设词汇表中含有1000 个单词, 指定样本数为n 。 由统计学的知识可以知道, 假如每个特征需要n 个样本, 则包含1000 个特征的词汇表需要n1000 个样本。 显而易见, 模型所需要的样