1)sigmoid函数(也叫逻辑斯谛函数): 
 

引用wiki百科的定义:

  A logistic function or logistic curve is a common “S” shape (sigmoid curve).

  其实逻辑斯谛函数也就是经常说的sigmoid函数,它的几何形状也就是一条sigmoid曲线。

  logistic曲线如下: 
  

2)softmax函数的定义:

softmax is a generalization of logistic function that “squashes”(maps) a K-dimensional vector z of arbitrary real values to a K-dimensional vector σ(z) of real values in the range (0, 1) that add up to 1.  

这句话既表明了softmax函数与logistic函数的关系,

也同时阐述了softmax函数的本质就是将一个K 维的任意实数向量压缩(映射)成另一个K维的实数向量,其中向量中的每个元素取值都介于(0,1)之间。

 softmax函数形式如下: 
                                                      

总结:   sigmoid将一个real value映射到(0,1)的区间(当然也可以是(-1,1)),这样可以用来做二分类。 
                而softmax把一个k维的real value向量(a1,a2,a3,a4….)映射成一个(b1,b2,b3,b4….)其中bi是一个0-1的常数,然后可以根据bi的大小来进行多分类的任务,如取权重最大的一维。 
  

最新文章

  1. SQL Server 中VARCHAR(MAX)变量赋值引起的性能问题。
  2. React.js入门笔记
  3. 区间重叠计算及IntervalTree初识
  4. 限制action所接受的请求方式或请求参数
  5. 《java集合概述》
  6. CF# 334 Lieges of Legendre
  7. 写了一个字符串的二维表: TSta
  8. Android listview viewpager解决冲突 滑动
  9. sql like 时间需要做转换
  10. 如何在网页标题栏title加入logo图标?
  11. The certificate used to sign "" has either expired or has been revoked.
  12. vue2.0实践 —— Node + vue 实现移动官网
  13. BZOJ4372烁烁的游戏——动态点分治+线段树(点分树套线段树)
  14. Python中*和**的作用(课堂小结)
  15. OSGI企业应用开发(十一)Bundle资源获取途径
  16. Linux 重定向详解
  17. memcached与redis实现的对比
  18. GitHub上最火的Android开源项目(完结篇)
  19. js常用的校验代码 (整理)
  20. 每周psp-第五周

热门文章

  1. Sass-除法
  2. js 弹窗并定时关闭
  3. mysql跟踪sql
  4. freertos优秀博客收藏
  5. HTML5浏览器
  6. 英语单词Repository
  7. 攻防世界 WEB篇
  8. ValueError: invalid literal for int() with base 10问题处理
  9. id4用用户名和密码方式控制身份验证
  10. oo_project_1