在使用PyTorch做实验时经常会用到生成随机数Tensor的方法,比如: torch.rand() torch.randn() torch.normal() torch.linespace() 在很长一段时间里我都没有区分这些方法生成的随机数究竟有什么不同,由此在做实验的时候经常会引起一些莫名其妙的麻烦. 所以在此做一个总结,以供大家阅读区分,不要重蹈我的覆辙. 均匀分布 torch.rand(*sizes, out=None) → Tensor 返回一个张量,包含了从区间[0, 1)的均匀分

torch.rand(*size, *, out=None, dtype=None, layout=torch.strided, device=None, requires_grad=False) #返回从[0,1)均匀分布中抽取的一组随机数:均匀分布采样:#*sizes指定张量的形状: torch.randn(*size, *, out=None, dtype=None, layout=torch.strided, device=None, requires_grad=False) #返回从标

高斯分布的概率密度函数 numpy中 numpy.random.normal(loc=0.0, scale=1.0, size=None) 参数的意义为: loc:float 概率分布的均值,对应着整个分布的中心center scale:float 概率分布的标准差,对应于分布的宽度,scale越大越矮胖,scale越小,越瘦高 size:int or tuple of ints 输出的shape,默认为None,只输出一个值 我们更经常会用到np.random.randn(size)所谓标准正

高斯分布(Gaussian Distribution)的概率密度函数(probability density function): \[ f(x)=\frac1{\sqrt{2\pi}\sigma}\exp(-\frac{(x-\mu)^2}{2\sigma^2}) \] 对应于numpy中: numpy.random.normal(loc=0.0, scale=1.0, size=None) 参数的意义为: loc:float 此概率分布的均值(对应着整个分布的中心centre) scale:

X ~ :随机变量X的取值和其对应的概率值P(X = ) 满足正态分布(高斯函数) 很多随机现象可以用正态分布描述或者近似描述 某些概率分布可以用正态分布近似计算 正态分布(又称高斯分布)的概率密度函数   numpy中 numpy.random.normal(loc=0.0, scale=1.0, size=None) 参数的意义为: loc:float 概率分布的均值,对应着整个分布的中心center scale:float 概率分布的标准差,对应于分布的宽度,scale越大越矮胖,scal

import numpy as np import matplotlib.pyplot as plt def fix_seed(seed=1): #重复观看一样东西 # reproducible np.random.seed(seed) # make up data建立数据 fix_seed(1) x_data = np.linspace(-7, 10, 2500)[:, np.newaxis] #水平轴-7~10 np.random.shuffle(x_data) noise = np.ran

http://docs.scipy.org/doc/numpy/reference/generated/numpy.random.normal.html #np.random.normal,产生制定分布的数集#http://docs.scipy.org/doc/numpy/reference/generated/numpy.random.normal.html# mean and standard deviation# 均值的物理意义mu,Mean (“centre”) of the distr

张量的定义 张量(Tensor)理论是数学的一个分支学科,在力学中有重要应用.张量这一术语起源于力学,它最初是用来表示弹性介质中各点应力状态的,后来张量理论发展成为力学和物理学的一个有力的数学工具.张量之所以重要,在于它可以满足一切物理定律必须与坐标系的选择无关的特性.张量概念是矢量概念的推广,矢量是一阶张量.张量是一个可用来表示在一些矢量.标量和其他张量之间的线性关系的多线性函数(可以理解成是向量.矩阵以及更高维结构的统称). But we don’t have to restrict our

第2章 Tensorflow keras实战 2-0 写在课程之前 课程代码的Tensorflow版本 大部分代码是tensorflow2.0的 课程以tf.kerasAPI为主,因而部分代码可以在tf1.3+运行 另有少量tensorflow1.*版本代码 方便大家读懂老代码 2-1 tf-keras简介 理论部分 Tensorflow-keras简介 分类问题.回归问题.损失函数 神经网络.激活函数.批归一化.Dropout Wide&deep模型 超参数搜索 实战部分 Keras搭建分类模

[机器学习炼丹术]的炼丹总群已经快满了,要加入的快联系炼丹兄WX:cyx645016617 参考目录: 目录 1 创建自定义网络层 2 创建一个完整的CNN 2.1 keras.Model vs keras.layers.Layer 之前讲过了如何用tensorflow构建数据集,然后这一节课讲解如何用Tensorflow2.0来创建模型. TF2.0中创建模型的API基本上都放到了它的Keras中了,Keras可以理解为TF的高级API,里面封装了很多的常见网络层.常见损失函数等. 后续会详细

pytorch和tensorflow的爱恨情仇之基本数据类型 pytorch和tensorflow的爱恨情仇之张量 pytorch版本:1.6.0 tensorflow版本:1.15.0 之前我们就已经了解了pytorch和tensorflow中的变量,本节我们深入了解可训练的参数-变量 接下来我们将使用sklearn自带的iris数据集来慢慢品味. 1.pytorch (1)第一种方式,不使用nn.Module或nn.Sequntial()来建立模型的情况下自定义参数: 加载数据集并转换为te

# 输入一个 x 会计算出 y 值 y 是预测值,如果与 真的 y 值(y_data)接近就成功了 import tensorflow as tf import numpy as np # py 的画图工具 import matplotlib.pyplot as plt # 用 numpy 生成个 200 个属性点 从 -0.5 到 0.5 间平均生成 200 个点 #x_data = np.linspace(-0.5, 0.5, 200) # 这只是生成了一维的数组 # 用下边这句可以生成二维

TensorFlow Playground http://playground.tensorflow.org 帮助更好的理解,游乐场Playground可以实现可视化训练过程的工具 TensorFlow Playground的左侧提供了不同的数据集来测试神经网络.默认的数据为左上角被框出来的那个.被选中的数据也会显示在最右边的 “OUTPUT”栏下.在这个数据中,可以看到一个二维平面上有红色或者蓝色的点,每一个小点代表了一个样例,而点的颜色代表了样例的标签.因为点的颜色只有两种,所以这是 一个二

线性拟合的思路: 线性拟合代码: import tensorflow as tf import numpy as np import matplotlib.pyplot as plt #%%图形绘制 def data_show(x,y,w,b): plt.figure() plt.scatter(x,y,marker='.') plt.scatter(x,(w*x+b),marker='.') plt.show() #%%生成数据 x_data=np.random.rand(100).astyp

1.pytorch中的torch.split只能将tensor分割为相等的几分,如果需要特定的需求将tensor分割开,可以用torch.index_select.使用的时候,先生成index索引,示例程序如下: import torch import random# tensor data = torch.randn(10,10,10,10) channel_list = [i for i in range(0,data.shape[1])]# 在channel_list中返回k个随机数 k

对输入或输出而言: 一个张量的形状为a x b x c x d,实际写出这个张量时: 最外层括号[…]表示这个是一个张量,无别的意义! 次外层括号有a个,表示这个张量里有a个样本 再往内的括号有b个,表示每个样本的长 再往内的括号有c个,表示每个样本的宽 再往内没有括号,也就是最内层的括号里的数有d个,表示每个样本的深度为d tf.nn.conv2d(), tf.reshape()等都是这样表示 给一个具体的张量,求这个张量的a,b,c,d值时,首先忽略最外层的括号,再数次外层括号个数(a),再

目录 创建Tensor numpy, list numpy list zeros, ones, fill zeros ones fill random 打乱idx后,a和b的索引不变 constant loss计算 无bias的loss 创建Tensor * from numpy, list * zeros, ones, fill * random # if big dimension, random initial * constant * Application numpy, list nu

目录 TensorFlow2-维度变换 Outline(大纲) 图片视图 First Reshape(重塑视图) Second Reshape(恢复视图) Transpose(转置) Expand_dims(增加维度) Squeeze(挤压维度) TensorFlow2-维度变换 Outline(大纲) shape, ndim reshape expand_dims/squeeze transpose 图片视图 [b, 28, 28] # 保存b张图片,28行,28列(保存数据一般行优先),图片

目录 Broadcasting Key idea How to understand? Why broadcasting? Broadcastable? Broadcast VS Tile Broadcasting expand(扩展数据) without copying data(不复制数据) tf.broadcast_to Key idea Insert 1 dim ahead if needed Expand dims with size 1 to same size example: [

目录 CIFAR100 13 Layers cafar100_train CIFAR100 13 Layers cafar100_train import tensorflow as tf from tensorflow.keras import layers, optimizers, datasets, Sequential import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' conv_layers = [ # 5 units of conv

目录 Recap input dim, hidden dim SimpleRNNCell Single layer RNN Cell Multi-Layers RNN RNN Layer Recap input dim, hidden dim from tensorflow.keras import layers # $xw_{xh} + hw_{nn}$,3次 cell = layers.SimpleRNNCell(3) cell.build(input_shape=(None, 4)) ce