MM bound 与 Jensen's inequality 简森不等式

　　在使用最大似然估计方法求解模型最优解的时候，如果使用梯度下降（GD or SGD）或者梯度上升（GA or SGA），可能收敛的很慢。

　　这时，可以使用 MM bound + Jensen's inequality 相结合的方法，先用MM，然后用 Jensen's inequality，可能能得到一个最大值解。使用这个最大值解来更新参数就好了。

　　1、先使用 MM bound，

　　

　　2、使用两个 Jensen 不等式：

　　

　　

最新文章

1. 淘宝分布式NOSQL框架：Tair
2. Yii Model中添加默认搜索条件
3. C++实现不能被继承的类——终结类 分类： C/C++ 2015-04-06 14:48 64人阅读 评论(0) 收藏
4. [myeclipse] 官方中文网站
5. ASP.NET MVC5学习笔记之Action参数模型绑定值提供体系
6. apt-get install jdk
7. Mysql中文乱码问题完美解决方案[转]
8. 为ASP.NET MVC应用程序读取相关数据
9. 在Spring MVC Controller的同一个方法中，根据App还是WEB返回JSON或者HTML视图。
10. Android N安装apk报错：android.os.FileUriExposedException
11. C++设计模式——模板方法模式
12. 【spring】aop切面通知，日志处理
13. C#实现多态之接口。
14. 一轮冲刺（NABCD）和需求分析
15. C#项目中关于多个程序集下App.config文件的问题
16. poj2559 Largest Rectangle in a Histogram（单调栈）
17. SUST OJ 1642: 绝地求生—死亡顺序
18. DenseNet——Densely Connected Convolutional Networks
19. spring 与springmvc容器的关系
20. Templated Helper Methods

热门文章

1. 【Scala】Java-Scala-单例模式实现方法
2. java去除字符串后面的\0
3. （纪录片）鸟瞰中国 China from Above
4. GB2312码表
5. requestFeature() must be called before adding content产生原因和解决办法
6. 解决IE兼容模式的方案
7. 让.aspx同样实现.ashx文件的功能: IHttpHandler
8. Maven教程初级篇02：pom.xml配置初步
9. Dwr 框架简单实例
10. 解决 Out of range value adjusted for column 'ID' at row 1