当前位置:文档之家› 感知器的学习算法

感知器的学习算法

感知器的学习算法
1.离散单输出感知器训练算法
设网络输入为n 维向量()110-=n x x x ,,, X ,网络权值向量为()110-=n ωωω,,, W ,样本集为(){}i i d ,X ,神经元激活函数为f ,神经元的理想输出为d ,实际输出为y 。

算法如下:
Step1:初始化网络权值向量W ;
Step2:重复下列过程,直到训练完成:
(2.1)对样本集中的每个样本()d ,X ,重复如下过程:
(2.1.1)将X 输入网络;
(2.1.2)计算)(T =WX f y ;
(2.1.3)若d y ≠,则当0=y 时,X W W ⋅+=α;否则X W W ⋅-=α。

2.离散多输出感知器训练算法
设网络的n 维输入向量为()110-=n x x x ,,, X ,网络权值矩阵为{}ji n m ω=⨯W ,网络理想输出向量为m 维,即()110-=m d d d ,,, D ,样本集为(){}i i D X ,,神经元激活函数为f ,
网络的实际输出向量为()110-=m y y y ,,, Y 。

算法如下:
Step1:初始化网络权值矩阵W ;
Step2:重复下列过程,直到训练完成:
(2.1)对样本集中的每个样本()D X ,,重复如下过程:
(2.1.1)将X 输入网络;
(2.1.2)计算)(T =XW Y f ;
(2.1.3)对于输出层各神经元j (110-=m j ,,, )执行如下操作: 若j j d y ≠,则当0=j y 时,i ji ji x ⋅+=αωω,110-=n i ,,, ; 否则i ji ji x ⋅-=αωω,110-=n i ,,, 。

3.连续多输出感知器训练算法
设网络的n 维输入向量为()110-=n x x x ,,, X ,网络权值矩阵为{}ji n m ω=⨯W ,网络理想输出向量为m 维,即()110-=m d d d ,,, D ,实际输出向量()110-=m y y y ,,, Y ,样本集为(){}i i D X ,,神经元激活函数为f ,ε为训练的精度要求。

算法如下:
Step1:初始化网络权值矩阵W (小的伪随机数);
Step2:设置精度控制参数ε,学习率α,设精度控制变量1+=εδ; Step3:若εδ≥,重复下列过程:
(3.1)令0=δ;
(3.2)对样本集中的每个样本()D X ,,重复如下过程: (3.2.1)将X 输入网络;
(3.2.2)计算)(T =XW Y f ;
(3.2.3)按如下方法修改网络权值:
i j j ji ji x y d )(-+=αωω,110-=m j ,,, ,110-=n i ,,, (3.2.4)计算累积误差:
2)(j j y d -+=δδ,110-=m j ,,,。

相关主题