文章:

http://blog.csdn.net/u014422406/article/details/52805924

sigmoid函数(也叫逻辑斯谛函数): 
 引用wiki百科的定义:

  A logistic function or logistic curve is a common “S” shape (sigmoid curve).

  其实逻辑斯谛函数也就是经常说的sigmoid函数,它的几何形状也就是一条sigmoid曲线。

  logistic曲线如下: 
  

同样,我们贴一下wiki百科对softmax函数的定义:

softmax is a generalization of logistic function that “squashes”(maps) a K-dimensional vector z of arbitrary real values to a K-dimensional vector σ(z) of real values in the range (0, 1) that add up to 1.

  这句话既表明了softmax函数与logistic函数的关系,也同时阐述了softmax函数的本质就是将一个K 
维的任意实数向量压缩(映射)成另一个K

维的实数向量,其中向量中的每个元素取值都介于(0,1)之间。

  softmax函数形式如下: 
  

总结:sigmoid将一个real value映射到(0,1)的区间(当然也可以是(-1,1)),这样可以用来做二分类。 
而softmax把一个k维的real value向量(a1,a2,a3,a4….)映射成一个(b1,b2,b3,b4….)其中bi是一个0-1的常数,然后可以根据bi的大小来进行多分类的任务,如取权重最大的一维。 
  

最新文章

  1. 11 Set和Map数据结构
  2. appium实现截图和清空EditText
  3. 10款最新流行的 jQuery 插件,值得你收藏
  4. SolidWorks的简单介绍及基本用法
  5. js 字符串转 数字
  6. CSS - 如何实现强制不换行、自动换行、强制换行 以及 chrom默认焦点 IE下 Input 默认出现叉
  7. Bash Shell字符串操作小结
  8. J-link V8固件升级记
  9. js兼容性大全
  10. PBO
  11. 在Mac下显示所有文件
  12. Android SharedPreferences基本用法
  13. 201521123089《Java程序设计》第14周学习总结
  14. git操作:WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED! (警告:远程主机标识已更改!)
  15. UVA12265-Selling Land(单调栈)
  16. python return 返回多个值
  17. Oracle_PL/SQL(6) 触发器(序列、视图)
  18. Java基础部分回顾(为自己)
  19. nsi脚本中执行.bat文件要隐藏dos窗口问题
  20. 多种方法实现 python 线程池

热门文章

  1. 设计模式实例(Lua)笔记之六(Adapter模式)
  2. 2011年度十大杰出IT博客获奖感言
  3. mvc的个别对输入数据的验证
  4. BootStrap_Table 学习
  5. 原生JS实现页面内定位
  6. PatentTips - Control register access virtualization performance improvement
  7. Hadoop作业性能指标及參数调优实例 (二)Hadoop作业性能调优7个建议
  8. 动态库dll使用module.def文件导出函数(像静态库一样使用)
  9. 2.2 Consumer API官网剖析(博主推荐)
  10. 计算两个String 类型的时间相关几个月