1. 预测房价、广告点击率：典型的神经网络，standard NN。

图像：卷积神经网络，CNN。

一维序列数据，如音频，翻译：循环神经网络，RNN。

无人驾驶，涉及到图像、雷达等更多的数据类型：混合的神经网络。

2. 结构化数据：数据的数据库，每一种特征都有明确的定义，如预测房价、广告点击率。目前主要的营收来源还是处理结构化数据。

非结构化数据：如音频、图像、文本，特征不明显。人类和你擅长处理非结构化数据。

3. 为什么近期神经网络一下子变这么厉害？一个神经网络牛逼的条件：1）神经网络的规模足够大；2）足够多的数据，这个数据往往要求是带标签的。

对于少量的训练数据，各种算法孰优孰劣不太明显，更依赖人手工设计的特征。

之前神经网络的进步主要依靠1）数据量的增加；2）硬件计算能力的提高。这些年算法方面也有了极大的创新，很多算法的创新点都是加速计算。比如，算法上很大的一个进步是从sigmoid激活函数转换到ReLU函数。sigmoid函数的问题是在左右两个方向都会饱和，梯度很小，导致学习变得非常慢。仅仅把sigmoid换成ReLU，就可以使得梯度下降法运行的快非常多。加快运算的另一个好处是，可以帮助我们更快的实现想法。神经网络的搭建很多时候是很依赖直觉的，所以快速实现想法实验验证，非常重要。

最新文章

1. SQLiteOpenHelper的使用
2. python处理字符串时出现的错误'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)" 解决方法
3. vs2013创建mvc项目体系找不到指定文件
4. Index & Statistics ->> Rebuild Index会不会覆盖原先Index的WITH选项设置
5. PreferenceActivity使用方法
6. ARC、MRC混编
7. 异常 ORA-00257: archiver error. Connect internal only, until freed
8. Mybatis(一）实现单表的增删改查
9. hzoj 2301（莫比乌斯反演）
10. Vagrant 构建 Linux 开发环境
11. MySQL数据库性能优化思路与解决方法(二转)
12. 三十、Linux 进程与信号——信号的概念及 signal 函数
13. 解决微信video全屏的问题，不在本页面播放
14. quartz定时任务及时间设置
15. Qt_技巧_将Qt动态链接生成的exe与dll打包方法
16. Unused Method(不再使用的方法)——Dead Code（死亡代码）
17. ISAPI和CGI限制中没有ASP.NET v4.0 ; vS2013检测到在集成的托管管道模式下不适用的 ASP.NET 设置。
18. Problem B. Full Binary Tree
19. nginx 总结
20. mnist手写数字识别(SVM)

热门文章

1. java 单利模式设计原理，饿汉式懒汉式，开发中推荐饿汉式
2. mysql查看整库个表详情
3. python学习笔记-面向对象设计
4. 03-string字符串和while循环
5. Python3 Windows服务器简单实现 手机访问
6. 884A. Book Reading#抽空学习好孩子（模拟）
7. android蜂巢效果、环形菜单、Kotlin影视应用、简约时钟、查看导出App、支付宝AR扫码效果等源码
8. textField 总结
9. android weight
10. RDD(九)——序列化问题