从贝叶斯模型(Bayes)到生成模型(Generative models)(生成式分类器,generative classifier)
2024-10-02 01:49:59
0. 基于贝叶斯公式的生成式分类器
生成式分类器(generative classifier)即是已知类别得样本:
p(y=c|x,θ)∝p(x|y=c,θ)p(y=c|θ)
p(x|y=c,θ) 称为类条件概率(class-conditional probability/density),定义了 每个类别(y=c)中我们所期待得到的数据是什么样的。上述公式的等式形式如下:
p(y=c|x,θ)=p(x|y=c,θ)p(y=c|θ)∑c′p(y=c′|θ)p(x|y=c′,θ)
这里仅以离散型随机变量为例,因此上述等式中是求和符号。
1. PMF(Probability Matrix Factorization)
某矩阵 R 可分解为两个低维矩阵的乘积 R=UTV,由于系统噪音存在,不可能做出这样的完美分解,另外 R 包含很多未知元素。所以问题转化为:
- 对一个近似矩阵进行分解R^=UTV
- 要求近似矩阵 R^ 在观测到的评分部分和观测矩阵 R 尽量相似
- 为了防止过拟合,需要对 U,V 做某种形式的约束(使解限定在一个较小的空间里)
用贝叶斯观点来说,R 是观测到的值,U,V 描述了系统的内部特征,是需要估计的(参数)。
p(U,V|R)=p(U,V,R)/p(R)∝p(U,V,R)=p(R|U,V)p(U)p(V)
最新文章
- 一看就懂的ReactJs入门教程-精华版
- Socket通信综合示例
- C语言实现简单php自定义扩展
- kettle定时任务_第三方合作方有订单自动发送邮件通知_20161214
- VS2015 Android
- 如何准备PMP考试?
- JAVA package-info文件【转】
- (1)编写一个接口:InterfaceA,只含有一个方法int method(int n); (2)编写一个类:ClassA来实现接口InterfaceA,实现int method(int n)接口方 法时,要求计算1到n的和; (3)编写另一个类:ClassB来实现接口InterfaceA,实现int method(int n)接口 方法时,要求计算n的阶乘(n!); (4)编写测试类E测试
- CSS之侧边栏
- Google Maps API v2 Demo Tutorial
- iOS之获取当前时间日期并按固定格式显示
- python模块之bsddb: bdb高性能嵌入式数据库 1.基础知识
- STL之Iterator(迭代器)
- Eclipse颜色主题插件-Eclipse Color Theme
- APP设计规范大全
- jdbc之二:DAO模式
- hdu 5344 MZL's xor
- 集合框架(HashSet存储自定义对象保证元素唯一性)
- tomcat配置集群
- docker 设计原理