LINEAR LAYERS

Linear

Examples:

>>> m = nn.Linear(20, 30)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 30]) 查看源码后发现U指的是均匀分布,即weight权重(A的转置)是取自输入尺寸的倒数再开方后的正负值之间的均匀分布,同理可得偏置bias是输出尺寸
的倒数再开方后的正负值之间的均匀分布。

资料参考于官网:https://pytorch.org/docs/stable/nn.html#linear-layers
 

最新文章

  1. .NET中的DES对称加密
  2. JS: How to detect my browser version and operating system using JavaScript?
  3. 关于Blender
  4. Android Studio开发基础之自定义View组件
  5. mysql 错误解决
  6. 原生js实现回到顶部
  7. SQL Server各个版本的区别
  8. bzoj 3930: [CQOI2015]选数
  9. 《通过C#学Proto.Actor模型》之Prpos
  10. HTML常用知识点代码演示
  11. (python)编程小练习
  12. Asp.net core 环境配置
  13. H5 video标签的第二种格式
  14. topcoder srm 530 div1
  15. windows开机锁定小键盘
  16. asp.net excel模板下载
  17. 字符串 CSV解析 表格 逗号分隔值 通讯录 电话簿 MD
  18. 洛谷P4724 【模板】三维凸包
  19. Java框架安全
  20. 分享Kali Linux 2017年第29周镜像文件

热门文章

  1. Result工具类
  2. No Spring WebApplicationInitializer types detected on classpath异常的解决
  3. Selenium启动最新的火狐浏览器异常排查
  4. Docker实战(五)之端口映射与容器互联
  5. CommonJS、AMD、CMD、NodeJs、RequireJS到底有什么联系?
  6. Python学习笔记系列——数据结构相关
  7. Putty等工具中解决SSH连接超时断开的问题
  8. 原型和原型对象(__proto__和prototype)转
  9. ios学习路线—Objective-C(深浅拷贝)
  10. VUE 生命周期 详解