Reservoir Computing论文学习

背景：
- RC优势：
- 储备池计算主要理论组成：
ESNS数学模型
储备池的优化
- GA；使用进化算法对参数进行优化；
- 基于随机梯度下降法的储备池参数优化
参考文章：

Reservoir Computing

背景：

神经网络的一种弥补RNN缺点
神经网络方法在具体应用过程中也存在一些局限性 .比如前向结构的神经网络一般不适合处理与时序相关的机器学习问题 , 而在实际应用中出现的问题往往与时间相关 , 比如预测、系统辨识、自适应滤波等等 .递归神经网络虽然可以用于解决时序相关问题 ,但递归神经网络在实际应用中存在训练算法过于复杂、计算量大、收敛速度慢以及网络结构难以确定等问题 .另外 , 还存在记忆渐消 (Fading Memory)问题 , 随时间步骤的加长 , 误差梯度可能消失或者产生畸变 , 所以递归神经网络一般只适合处理短时时序问题 .这些问题都严重阻碍了递归神经网络在实际问题中的应用 .

摘抄

为了减少训练过程的计算负担以及克服记忆渐消等问题 , Jaeger 于 2001 年提出回声状态网络(Echo State Networks, ESNs)[1] , Maass 于 2002 年提出流体状态机 2 .这两种方法虽然提出的角度不同 , 但其本质都可以认为是对传统的递归神经网络训练算法的改进 .D Verstraeten 等在文献[ 3] 中以实验的方式证明了ESNs和LSMs在本质上是一致的,并将其统一命名为“储备池计算”(Reservoir Computing)

总结：

神经网络方法在具体问题上存在问题

1: 时序问题虽然可以解决，但存在算法复杂，计算量大。

2: 收敛速度慢，网络结构难以确定。

3: 记忆渐消问题：随时间步骤的加长 , 误差梯度可能消失或者产生畸变。

RC优势：

ESNs 最大的优势是简化了网络的训练过程 , 解决了传统递归神经网络结构难以确定,训练算法过于复杂的问题 , 同时也克服了递归网络存在的记忆渐消问题

储备池计算主要理论组成：

状态回声网络ESNS：
流体状态机

ESNS数学模型

结构表示

M个输入

N个处理点

L个输出

状态方程和输出方程

总结

状态变量 W，输入输出对状态变量的连接权矩阵W(in)，W(back)，三项均为随机产生，产生后就固定不变；

W（out）为训练得到；

f（out）取恒等函数：因为输出层一般线性；

参考文章片段

计算过程

两个阶段：

采样阶段
权值计算阶段

采样阶段

摘抄：采样阶段首先任意选定网络的初始状态 , 但是通常情况下选取网络的初始状态为0 ,即 x(0)=0.训练样本 ( u (n ) , n = 1 , 2 , ... , M ) 经过输入连接权 W i n , 样本数据 y (n )经过反馈连接权 W b a c k 分别被加到储备池 , 按照系统(1)状态方程和输出方程, 依次完成系统状态的计算和相应输出 y (n )的计算与收集 .注意每一时刻系统状态 x (n)的计算 , 都需要将样本数据 y(n)写入到输出单元 .为了计算输出连接权矩阵 , 需要从某一时刻开始收集(采样)内部状态变量 .这里假定从 m 时刻开始收集系统状态 , 并以向量(x1(i),x2(i),...,xN(i))(i=m,m+1, ...,M)为行构成矩阵 B (M - m + 1 , N ) , 同时相应的样本数据 y (n)，也被收集,并构成一个列向量 T(M -m +1,1).这里需要说明的是 :

(1)如果系统包含有输入到输出、输出到输出的连接权 , 那么在收集系统的状态矩阵 B 时 , 还需要收集相应的输入和输出部分 ;

(2 ) 为了消除任意初始状态对系统动态特性的影响 , 总是从某一时刻后才开始收集系统的状态 .从该时刻开始 , 可以认为系统反映的是输入、输出样本数据之间的映射关系 .

权值计算阶段

储备池的优化

GA；使用进化算法对参数进行优化；

寻优参数包括三个 :

储备池规模 Nx ,
内部连接权矩阵的谱半径 ρ(W),
内部连接权矩阵的稀疏度

缺点：

遗传算法本身的搜索盲目性导致计算量过大 , 以及容易陷入局部最优的问题限制了其在储备池参数优化的应用

基于随机梯度下降法的储备池参数优化

比经典 ESNs 更为一般的形式 : x(n +1)=(1 -αΔt) x(n) + Δt f (Winu(n +1) + Wx(n) )

同时也引入了两个全局参数 Δt 和 α, 其中 Δt 是离散化，时间间隔与系统时间常数的比值, α叫做decay rate .

进而建立了针对全局参数 Δt 和 α的随机梯度下降优化算法 .

巴特西