ˆ ˆ j=1 (2)输入一个模式Xp，计算净输入netj= V T X ，j=1,2,…,m。 j
(3)确定竞争获胜神经元。 确定竞争获胜神经元。 网络的竞争算法不设优胜邻域， (4)CPN网络的竞争算法不设优胜邻域，因此只调整获胜神经元的内 )CPN 网络的竞争算法不设优胜邻域 星权向量， 星权向量，调整规则为
CPN网络的应用 4.4.4 CPN网络的应用
H
C1
C2
C3
C4
…
L S (a)烟叶颜色样本 烟叶颜色样本 H S L (b)CPN 网络
(4.18) 18)
ok由下式计算
ok (t ) = ∑ w jk y j
k =1
l
(4.19)
ok (t ) = w j *k y j * = w j *k
(4.20)
CPN的学习算法 4.4.2 CPN的学习算法
W jk (t + 1) = W jk ( t ) + β (t )[ d k − o k (t )]
对 偶 传 播 神 经 网 络
CPN网运行过程 CPN网运行过程
o1
…
ok
…
ol
o1 W 1○
…
ok
…
ol
对 偶 传 播 神 经 网 络
W 1○
W k○
Wl
○
yj*…Wk○Wl○…
y1○ V1
y2○
…
○ ym
Vm
y1○ V1
y2○
…
y j*
○ ym
Vm
○
x1
…
○
xi
…
○
xn
○
x1
…
○
xi
…
○
xn
(a)竞争产生获胜节点
(4)重复步骤(1)至步骤(3)直到下降至0。 重复步骤( 至步骤( 直到下降至0
(4.20)
j ≠ j* j= j
*
(4.21)
4.4.3 对偶传播神经网络
双获胜节点CPN CPN网 4.4.3.1 双获胜节点CPN网
输入模式 → … → （1 0 0 1 0 0 1 0 0） → (a)训练集 训练集 (b)训练时单节点获胜 训练时单节点获胜 → (c)运 行时对复合模式 运 双 节点获胜 → 期望输出 （1 0 0 1 0 0 1 0 0） 输 入模式 期 望输出 →
4.4对偶传播神经网络 4.4对偶传播神经网络
1987年 美国学者Robert Hecht-Nielsen提出 1987年，美国学者Robert Hecht-Nielsen提出 对偶传播神经网络模型(Counter (Counter对偶传播神经网络模型(Counter-Propagation Network，缩写为CPN) Network，缩写为CPN)
CPN的学习算法 4.4.2 CPN的学习算法
第二阶段采用外星学习算法对隐层至输出层的外星权向量进行训 步骤如下： 练，步骤如下： ˆ ˆ j=1 ,m， (1)输入一个模式对Xp,dp，计算净输入net = V jT X ， j=1,2,…,m，
j
对 偶 传 播 神 经 网 络
(2)确定竞争获胜神经元，使 确定竞争获胜神经元，
4.4.1 网络结构与运行原理
d1
… …
dk ok
… …
dl ol
对 偶 传 播 网 络
o1 W 1○
W k○
Wl
○
yj
…
输出层
y 1○ V1
y 2○
…
○
○ ym
Vm
竞争层
○
x1
○
x2
…
○
xi
…
○
x n -1
○
xn
输入层
网络各层的数学描述如下： 网络各层的数学描述如下：
X＝(x1,x2,…,xn)T Y＝(y1,y2,…,ym)T，yi∈{0,1}，i=1,2, ,m =1,2,… O＝(o1,o2,…,ol)T d＝(d1,d2,…,dl)T V=(V1,V2,…,Vj,…,Vm) W=(W1,W2,…,Wk,…,Wl)
(b)获胜节点外星向量决定输出
CPN的学习算法 4.4.2 CPN的学习算法
第一阶段用竞争学习算法对输入层至隐层的内 星权向量进行训练，步骤如下： 星权向量进行训练，步骤如下：
对 偶 传 播 神 经 网 络
之间的初始值， (1)将所有内星权随机地赋以0～1之间的初始值，并归一化为单位长 将所有内星权随机地赋以0 训练集内的所有输入模式也要进行归一化。 度，训练集内的所有输入模式也要进行归一化。
对 偶 传 播 神 经 网 络
j = 1,2 ,...,m k = 1, 2 ,..., l
(4.18)
ok (t ) = w j *k y j * = w j *k
外星权向量调整规则: 外星权向量调整规则:
W jk (t ) W jk (t + 1) = W jk (t ) + β (t )[ d k − w jk (t )]
y
j
0 = 1
j ≠ j* j = j*
(4.17) 17)
(3)调整隐层到输出层的外星权向量，调整规则为 调整隐层到输出层的外星权向量，
W jk (t + 1) = W jk (t ) + β ( t )[ d k − o k ( t )]
j = 1,2 ,...,m k = 1, 2 ,..., l
ˆ ˆ ˆ W j * (t + 1) = W j * (t ) + η (t )[ X − W j * (t )]
重复步骤( 至步骤( 直到下降至0 需要注意的是， (5)重复步骤(2)至步骤(4) 直到下降至0 。需要注意的是，权向量经 过调整后必须重新作归一化处理。 过调整后必须重新作归一化处理。
4.4.3.2 双向CPN网 双向CPN网 CPN
X′
Y
Y = f (X ) X ’ = f(Y ’)
○
○ ○
…
○
○ ○ ○
○… ○
○ ○
…
○
○
X
…
○
Y′
…
○
当向网络输入( 网络输出为( 当向网络输入(X,0 )时，网络输出为(Y,0 )；当向网络 输入( 网络输出为( 当向网络输入( 输入(0,Y’ ‘)时，网络输出为(0,X ’)，当向网络输入(X,Y ’)时， 网络输出为( 网络输出为(Y,X ’ )。