• 理论上循环神经网络可以支持任意长度的序列,然而在实际中,如果序列过长会导致优化时出现梯度消散(the vanishing gradient problem)的问题,在实际中一把会规定一个最大长度,当序列长度超过规定长度后会对序列进行截断

1. variant:GRU(gated recurrent unit)

  • zt=σ(Wz⋅[ht−1,xt])
  • rt=σ(Wr⋅[ht−1,xt])
  • h~t=tanh(W⋅[rt∗ht−1,xt])
  • ht=ht−1∗(1−zt)+h~t∗zt

最新文章

  1. 流程控制和循环.png
  2. MessageClient
  3. Python学习-day2
  4. 函数响应式编程(FRP)—基础概念篇
  5. android 使某个控件获取焦点
  6. Servlet端 接收不到4096,8192长度的JSON参数
  7. 【一天一道LeetCode】#38. Count and Say
  8. 6. VIM 系列 - 全局搜索(ctrlsf.vim)
  9. qss qt按钮自定义
  10. 如何使用js改变HTML中title里面固定的文字
  11. Atomikos和GTS-Fescar和TCC-Transaction和TX-LCN分布式事物的比较
  12. java 基本原则
  13. JVM虚拟机学习一:垃圾回收算法总结
  14. 【原创】大叔经验分享(41)hdfs开启kerberos之后报错Encryption type AES256 CTS mode with HMAC SHA1-96 is not supported/enabled
  15. VUE本身是不支持IE的,可用babel-polyfill解决
  16. CentOS切换为iptables防火墙并进行相关配置
  17. spring cloud之路(1)
  18. 将TXT文件 导入 sqlserver数据库
  19. markdown学习资料
  20. 简单的cxf-ws 基于web容器

热门文章

  1. 11、V4L2摄像头获取单幅图片测试程序
  2. [Angular Unit Testing] Debug unit testing -- component rendering
  3. [Angular2 Form] Create custom form component using Control Value Accessor
  4. jboss-as-7.1.1.Final与jdk1.8不兼容解决方案
  5. Perl按行分割文件
  6. python开发环境设置(windows)
  7. GitHub项目协作基本步骤 分类: C_OHTERS 2013-09-23 21:31 690人阅读 评论(0) 收藏
  8. [转载]netcore 使用surging框架发布到docker
  9. javascript合并数组并且删除第二项
  10. web报表工具FineReport经常使用函数的使用方法总结(文本函数)