https://zhuanlan.zhihu.com/p/27112144

1.LSTM对于非平稳数据的预测效果没有平稳数据好

2.神经网络的过拟合:在训练神经网络过程中,“过拟合”是一项尽量要避免的事。神经网络“死记”训练数据。过拟合意味着模型在训练数据的表现会很好,但对于训练以外的预测则效果很差。原因通常为模型“死记”训练数据及其噪声,从而导致模型过于复杂。本文使用的沪深300的数据量不是太多,因此防止模型过拟合就尤为重要。

训练LSTM模型时,在参数层面上有两个十分重要的参数可以控制模型的过拟合:Dropout参数和在权重上施加正则项。Dropout是指在每次输入时随机丢弃一些features,从而提高模型的鲁棒性。它的出发点是通过不停去改变网络的结构,使神经网络记住的不是训练数据本身,而是能学出一些规律性的东西。正则项则是通过在计算损失函数时增加一项L2范数,使一些权重的值趋近于0,避免模型对每个feature强行适应与拟合,从而提高鲁棒性,也有因子选择的效果;(若希望在数学层面了解正则项更多知识,参考《机器学习中防止过拟合的处理方法》) 。在1)的模型训练中,我们加入了Dropout参数来避免过拟合。接下来我们尝试额外在权重上施加正则项来测试模型的表现。

最新文章

  1. 这可能是史上最全的CSS自适应布局总结教程
  2. windows下Emacs的安装与配置
  3. EBS R12.2安装,使用的操作系统用户
  4. Compound Interest Calculator3.0
  5. zookeeper kazoo Basic Usage
  6. 一起学习c++11——c++11中的新语法
  7. pycharm中的快捷键和简单设置
  8. Python爬取百度贴吧
  9. 算法手记(2)Dijkstra双栈算术表达式求值算法
  10. nginx按日期分割日志
  11. git初始化项目 以及 git常用操作
  12. Django高级篇一RESTful架构及API设计
  13. jqgrid 主键列的设定
  14. npm模块之http-proxy-middleware使用教程(译)
  15. Windowd系统下Eclipse CDT+MinGW快速搭建C/C++开发环境
  16. Threejs 开发3D地图实践总结【转】
  17. vivado 的调试工具ILA抓到的波形可以保存
  18. 回调形成树形结构tree
  19. 七、EnterpriseFrameWork框架基础功能之字典数据配置管理
  20. 看jquery3.3.1学js类型判断的技巧

热门文章

  1. Java技术面试汇总
  2. Appium基础三:Appium实现原理
  3. Flash图表控件FusionCharts如何高亮显示数据
  4. Linux Shell流程例子
  5. winform ListView创建columnHeader的方法
  6. ZOJ 3469 Food Delivery (区间DP,经典)
  7. jquery的uploadify插件实现的批量上传V3.2.1版
  8. 2004: C语言实验——数日子(数组)
  9. MySql下最好用的数据库管理工具是哪个
  10. Spring中c3p0连接池的配置 及JdbcTemplate的使用 通过XML配置文件注入各种需要对象的操作 来完成数据库添加Add()方法