机器学习----贝叶斯分类器（判别模型和生成模型）

最新推荐文章于 2023-04-28 11:25:07 发布
原创 最新推荐文章于 2023-04-28 11:25:07 发布 · 2.6k 阅读 · 2
标签
#机器学习 #生成模型
本文探讨了机器学习中的判别模型和生成模型，解释了它们的数学表述和形象区别。判别模型直接估计条件概率p(y|x)，如逻辑回归，而生成模型通过贝叶斯公式推导出p(y|x)，如高斯判别分析。生成模型能提供数据的详细信息，而判别模型关注类别间的区分。当数据近似高斯分布时，高斯判别分析可能优于logistic回归。

判别模型和生成模型

数学表述

监督学习方法分 判别方法（Discriminative Approach） 和 生成方法（Generative Approach），所学到的模型分别称为 判别模型（Discriminative Model） 和 生成模型（Generative Model）。

所谓判别模型模型是直接判别测试用例所属的类别，即直接对 p(y|x) 进行建模，例如logistic regression， y=σ(θTx) 。它直接计算出所属类别的概率。
但是我们还有另一种方法~注意到贝叶斯公式：

p(y|x)=p(x,y)p(x)=p
最低0.47元/天 解锁文章
贝叶斯分类器贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。目前研究较多的贝叶斯分类器主要有四种，分别是：Naive Bayes、TAN、BAN和GBN。
01-14
　贝叶斯决策就是在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。 　　贝叶斯决策理论方法是统计模型决策中的一个基本方法，其基本思想是： 　　1、已知类条件概率密度参数表达式和先验概率。 　　2、利用贝叶斯公式转换成后验概率。 　　3、根据后验概率大小进行决策分类。
贝叶斯分类器
qq_43689908的博客
12-04 582
贝叶斯决策论 贝叶斯决策论是在概率框架下
判别模型(Discriminative model)和生成模型(Generative model)
热门推荐
Fishmemory的博客
06-19 2万+
说明生成算法和判别算法之间的区别。判别算法主要包括：SVM，逻辑回归等；生成算法主要包括：朴素贝叶斯，HMM等
生成式模型与判别式模型
weixin_46359306的博客
04-28 2836
生成式模型和判别式模型是机器学习中两种常见的模型类型。 生成式模型，又称概率模型，是指通过学习数据的分布来建立模型P(y|x)，然后利用该模型来生成新的数据。生成式模型的典型代表是朴素贝叶斯模型，该模型通过学习数据的分布来建立概率模型，然后利用该模型来生成新的数据。 判别式模型，又称非概率模型，是指通过学习输入和输出之间的映射关系来建立模型y=f(x)，然后利用该模型来预测新的输出。判别式模型的典型代表是支持向量机模型，该模型通过学习输入和输出之间的映射关系来建立分类模型，然后利用该模型来预测新的分类结果
机器学习：生成模型和判别模型的区别
JacksonKim的博客
10-01 7491
一、名词解释 生成方法由数据学习联合概率风波P(X,Y)，然后求出条件概率分布P(Y|X)为预测的模型，即生成模型： P(Y∣X)=P(X,Y)P(X)P(Y|X)=\frac{P(X,Y)}{P(X)}P(Y∣X)=P(X)P(X,Y)​ 这样的方法之所以称为生成方法，是因为模型表示了给定输入X产生输出Y的生成关系。典型的生成模型由朴素贝叶斯法和隐马尔可夫模型。 判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测模型，即判别模型。判别方法关心的是对给定的输入X，应该预测什么样的输出
GAN调研——1.有监督的生成式模型与判别式模型
MmDawN的博客
08-08 1526
A Survey about GANs Part1.有监督的生成式模型与判别式模型 生成式模型（Generative Model）和判别式模型（Discriminative Model）是对有监督机器学习模型的两种建模方式。本节将简要介绍二者区别与联系，并举例说明。 1.生成式模型和判别式模型结构 [外链图片转存失败(img-66JJA8Qd-1565233802472)(./part1pi...
生成模型和判别模型的区别
张渊猛的博客
08-16 9884
先上结论 公式上看 生成模型： 学习时先得到 P(x,y)P(x,y)P(x,y)，继而得到 P(y|x)P(y|x)P(y|x)。预测时应用最大后验概率法（MAP）得到预测类别 yyy。 判别模型： 直接学习得到P(y|x)P(y|x)P(y|x)，利用MAP得到 yyy。或者直接学得一个映射函数 y=f(x)y=f(x)y = f(x)。 直观上看 生成模型： 关注数据是如何生成的 ...
贝叶斯分类器笔记
人的抱怨源自，自我无能的愤怒
08-09 236
贝叶斯分类器的基本思维 判别模型与生成模型 机器学习的目的在于想得到一个模型，这种模型对数据的管理能力要比较强，那怎么才能学习得到这样的优秀的模型呢？判别模式是直接进行建模，数据直接学习决策函数 Y = f（X），或者由条件分布概率 P（Y|X）作为预测模型，例如线性回归、SVM、决策树等，这些模型都是预先定制了模型的格式，所需要做的事情就是通过优化的方法得到最优的参数就好了；生成模式并不会直...
贝叶斯分类器的学习笔记
u014029393的博客
12-23 721
转自 贝叶斯分类器（一） http://blog.csdn.net/zhangph1229/article/details/52106301 贝叶斯分类器适用情况：对数据量大的问题十分适用 0. 基本知识 为了能更好的理解贝叶斯分类器，本节首先讲述有关概率的基础知识，为后面概率的推到打下基础。 加法公式  对于任意两个事件A，B，有 P(
理解生成模型与判别模型
SIGAI_CSDN的博客
10-10 5860
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。 书的购买链接 书的勘误，优化，源代码资源 导言 我们都知道，对于有监督的机器学习中的分类问题，求解问题的算法可以分为生成模型与判别模型两种类型。但是，究竟什么是生成模型，什么是判别模型？不少书籍和技术文章对这对概念的解释是含糊的。在今天这篇文章中，我们将准...
机器学习——贝叶斯分类器
qq_32531505的博客
04-13 7416
1.贝叶斯分类器属于生成式模型 对于数据的判别分类有两种策略模型：判别式模型和生成式模型 判别式模型 : 逻辑回归、决策树、支持向量机等为常见的判别式模型，这种模型需要人为的设定好模型框架，假如Y=WX+B>1为好瓜，Y=WX+B<=1为坏瓜，然后通过数据的训练，不断地修正模型参数，模型对于目标变量的条件预测也就更加准确。再比如决策树，通过信息熵，信息增益等判断标准，对好瓜具有的属性进行判别选择，通过对数据的学习，得到决策模型。 生成式模型 : 生成方法由数据学习联合概率分布P(Y,X)，然后
机器学习（六）——贝叶斯分类器
weixin_51547017的博客
04-22 2405
贝叶斯分类器是一类分类算法的总称，均以贝叶斯定理为理论基础 一、预备知识—贝叶斯决策论 1.公式 \qquad贝叶斯决策论是概率框架下的实施决策的基本方法。对于分类任务来说，在所有相关概率都已知的理想情况下，贝叶斯决策论考虑如何基于概率和误判损失来选择最优的类别标记。 \qquad假设有N种输出类别，表示为 yyy={c1,c2,c3.....cNc_1,c_2,c_3.....c_Nc1​,c2​,c3​.....cN​} \qquad λij\lambda_{ij}λij​表示为将一个真实属于cj.
判别模型、生成模型与贝叶斯方法
vv428047423的博客
03-25 2356
一、判别模型与生成模型     判别模型：用特征值来求结果的概率，形式化表示为，在参数确定的情况下，求解条件概率。通俗的解释为在给定的特征后预测结果出现的概率。     生成模型：   或p(y) - 生成模型：无穷样本==》概率密度模型 = 产生模型==》提取特征，预测（求条件概率） - 判别模型：有限样本==》判别函数 = 预测模型==》提取特征，求概率大小（求联合概率）常见的判别模型：线性回...
从贝叶斯模型（Bayes）到生成模型（Generative models）（生成式分类器，generative classifier）...
weixin_30361753的博客
10-29 640
0. 基于贝叶斯公式的生成式分类器 生成式分类器（generative classifier）即是已知类别得样本： p(y=c|x,θ)∝p(x|y=c,θ)p(y=c|θ) p(x|y=c,θ) 称为类条件概率（class-conditional probability/density），定义了 每个类别（y=c）中我们所期待得到的数据是什么样的。上述...
生成式模型（一）：蒙提霍尔问题与贝叶斯定理
LLM学堂
09-20 2971
一、 生成式模型 这个系列将讨论人工智能领域非常重要、也十分被看好的一类模型：生成式模型（generative model）。因为这类模型不但能根据特征预测结果，还能“理解”数据是如何产生的，并以此为基础“创造”数据，这才是“真正意义上”的人工智能。而且正如费曼[]所说的“What I cannot create, I do not understand（我不能创造的东西，我就不了解）”，生成式模...
概率生成模型-朴素贝叶斯（Naive Bayes）
qq_31267769的博客
08-06 4357
1 前置概念 先验概率：在不知道事务特征的情况下，根据以往的经验，判断出这件事发生的概率，这个概率就是先验概率，即： 后验概率：与先验概率相对应，是知道了事务特征判断出来的从而得出的事件发生的概率就是后验概率，即： 联合概率：两件事同时发生的改率，比如A发生且B发生，可以写作： 贝叶斯定理：贝叶斯定理起初是为了解决逆概率的问题，通过现象倒推本质，比如，如果在一个黑箱里摸球，箱中有3个红球7个黑球，可以轻易得出摸出红球的概率是0.3，现在假设不知道盒中有多少个黑球多少个红球，通过不断的摸球，不断的计算
第八讲：产生式模型：NaiveBayes, HMM（上）
leo_fighting
09-08 3383
5 产生式模型 5.1 产生式模型与判别式模型区别 5.2 朴素贝叶斯 5.2.1 原理与模型 5.2.2 算法 5.2.3 策略 5.2.4 高斯判别分析 5.3 隐马尔科夫模型 5.3.1 模型 5.3.2 推理：概率计算 5 产生式模型 5.1 产生式模型与判别式模型区别   结束了上节课具有和厦大精神（自强不息、止于至善）一样的boosting，这节课主要介绍了判...
机器学习中的生成式模型VS判别式模型，分类，特点
weixin_46838716的博客
06-10 7725
1）典型的生成式模型：朴素贝叶斯，K近邻(KNN)，判别式；神经网络(NN)，SVM等 2）由生成式模型可以得到判别式模型，但由判别式模型得不到生成式模型。 3）笔试求AC，可以不考虑空间复杂度，但是面试既要考虑时间复杂度最优，也要考虑空间复杂度最优。......
【周志华机器学习】七、贝叶斯分类器
weixin_42301220的博客
04-06 3540
文章目录参考资料1. 基本概念1.1 贝叶斯公式1.2 贝叶斯决策论1.3 极大似然法2. 朴素贝叶斯分类器3. 半朴素贝叶斯分类器4. EM算法4.1 EM算法思想4.2 EM算法数学推导4.3 EM算法流程 参考资料 Machine-learning-learning-notes LeeML-Notes ML-NLP 本博客为作者根据周志华的西瓜书和参考资料1、2、3所做的笔记，主要用于学习，非技术类博客，因此存在大量复制粘贴，请见谅。 如果本篇博客有后记部分，则该部分表示的是在书本原有的基础知
基于matlab的fisher线性判别及感知器判别_SPSS 判别分析
weixin_39588104的博客
11-26 1408
一、定义判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。二、判别分析的一般形式y=a1x1+a2x2+……+anxn（a1为系数，Xn为变量）。事先非常明确共有几个类别，目的是从已知样本中训练出判别函数三、前提假设（有点类似多重回归分析）1.各自变量为连续性或有序分类变量2.自变量和因变量符合线性假设3.各组的协方差矩阵相等，类...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值