这一篇sigmoid和softmax的比较,讲的不错
文章:
http://blog.csdn.net/u014422406/article/details/52805924
sigmoid函数(也叫逻辑斯谛函数):
引用wiki百科的定义:
A logistic function or logistic curve is a common “S” shape (sigmoid curve).
其实逻辑斯谛函数也就是经常说的sigmoid函数,它的几何形状也就是一条sigmoid曲线。
logistic曲线如下:
同样,我们贴一下wiki百科对softmax函数的定义:
softmax is a generalization of logistic function that “squashes”(maps) a K-dimensional vector z of arbitrary real values to a K-dimensional vector σ(z) of real values in the range (0, 1) that add up to 1.
这句话既表明了softmax函数与logistic函数的关系,也同时阐述了softmax函数的本质就是将一个K
维的任意实数向量压缩(映射)成另一个K
维的实数向量,其中向量中的每个元素取值都介于(0,1)之间。
softmax函数形式如下:
总结:sigmoid将一个real value映射到(0,1)的区间(当然也可以是(-1,1)),这样可以用来做二分类。
而softmax把一个k维的real value向量(a1,a2,a3,a4….)映射成一个(b1,b2,b3,b4….)其中bi是一个0-1的常数,然后可以根据bi的大小来进行多分类的任务,如取权重最大的一维。
最新文章
- 11 Set和Map数据结构
- appium实现截图和清空EditText
- 10款最新流行的 jQuery 插件,值得你收藏
- SolidWorks的简单介绍及基本用法
- js 字符串转 数字
- CSS - 如何实现强制不换行、自动换行、强制换行 以及 chrom默认焦点 IE下 Input 默认出现叉
- Bash Shell字符串操作小结
- J-link V8固件升级记
- js兼容性大全
- PBO
- 在Mac下显示所有文件
- Android SharedPreferences基本用法
- 201521123089《Java程序设计》第14周学习总结
- git操作:WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED! (警告:远程主机标识已更改!)
- UVA12265-Selling Land(单调栈)
- python return 返回多个值
- Oracle_PL/SQL(6) 触发器(序列、视图)
- Java基础部分回顾(为自己)
- nsi脚本中执行.bat文件要隐藏dos窗口问题
- 多种方法实现 python 线程池
热门文章
- 设计模式实例(Lua)笔记之六(Adapter模式)
- 2011年度十大杰出IT博客获奖感言
- mvc的个别对输入数据的验证
- BootStrap_Table 学习
- 原生JS实现页面内定位
- PatentTips - Control register access virtualization performance improvement
- Hadoop作业性能指标及參数调优实例 (二)Hadoop作业性能调优7个建议
- 动态库dll使用module.def文件导出函数(像静态库一样使用)
- 2.2 Consumer API官网剖析(博主推荐)
- 计算两个String 类型的时间相关几个月