ij i i 1 j 1 j i i j
j
bi vi
i 1
9 2012-7-7
2.9.1离散Hopfield 神经网络
网络中神经元能量函数变化量
Ei 1
w v v 2
ij i i 1 i j
n
j
bi vi
E i E i (t 1) E i (t ) 1
8 2012-7-7
2.9.1离散Hopfield 神经网络
稳定状态
若网络从某一时刻以后，状态不再发生变化， 则称网络处于稳定状态
v(t t ) v(t ) t 0
网络为对称连接，即；神经元自身无连接 能量函数在网络运行中不断降低，最后达到 n 稳定 1 n n
E
w v v 2
13 2012-7-7
2.9.3 Hopfield 神经网络的MATLAB实现
MATLAB中Hopfield网络的重要函数和功能
函 数 名
功
能
satlin( ) 饱和线性传递函数
satlins( ) 对称饱和线性传递函数
newhop( ) 生成一个Hopfield回归网络
nnt2hop( ) 更新NNT 2.0 Hopfield回归 网络
14 2012-7-7
2.9.3 Hopfield 神经网络的MATLAB实现
MATLAB中与Hopfield网络有关的重要函数和功能
newhop( )
功能 生成一个Hopfield回归网络。 格式 net = newhop(T) 说明 net为生成的神经网络，具有在T中的向量上稳 定的点；T是具有Q个目标向量的R*Q矩阵（元素必须为 -1或1）。Hopfield神经网络经常被应用于模式的联想 记忆中。Hopfield神经网络仅有一层，其激活函数用 satlins( )函数，层中的神经元有来自它自身的连接 权和阈值。
16 2012-7-7
2.9.3 Hopfield 神经网络的MATLAB实现
例2-8 设印刷体数字由10 10点阵构成，就 是将数字分成很多小方块，每个方块就对应数 字的一部分，构成数字本部分的方块用1表示， 空白处用-1表示。试设计一个Hopfield网络， 能够正确识别印刷体的数字。
由点阵构成 的数字1 由点阵构成 的数字2
Hopfield网络状态向着能量函数减小的 方向演化。由于能量函数有界，所以系 统必然会趋于稳定状态 。
w v (t 1)v 2
ij i i 1 i j
n
j
bi vi (t 1)
1
w v (t )v －b v (t ) 2
ij i j i i i 1 i j
n
n 1 ＝ vi (t 1) vi (t ) wij v j bi 2 i 1 i j
在任一时刻，部分神经元或全部神经元 的状态同时改变。
7 2012-7-7
2.9.1离散Hopfield 神经网络
串行(异步)工作方式运行步骤 第一步 对网络进行初始化； 第二步 从网络中随机选取一个神经元； 第三步 按式(2-5)求出该神经元i的输出； 第四步 按式(2-6)求出该神经元经激活函 数处理后的输出，此时网络中的其他神经元 的输出保持不变； 第五步 判断网络是否达到稳定状态，若 达到稳定状态或满足给定条件则结束；否则 转到第二步继续运行。
15 2012-7-7
2.9.3 Hopfield 神经网络的MATLAB实现
MATLAB中与Hopfield网络有关的重要函数和功能
satlins( ) 功能 对称饱和线性传递函数 格式 A = satlins(N) A输出向量矩阵；N是由网络的输入向量组成 的S*Q矩阵，返回的矩阵A与N的维数大小一致， A的元素取值位于区间[0，1]内。当N中的元 素介于-1和1之间时，其输出等于输入；当输 入值小于-1时返回-1；当输入值大于1时返回 1。
稳定性分析
dE N u dvi wij v j i I i dt dvi dt Rj dt i 1 j 1 dE dvi
N
将下式代入得：
Ci dui dt wij v j I i
j 1
N
N
ui Ri
1
因为
df (vi ) dvi 0, 又 0, Ci 0, dvi
12
2012-7-7
2.9.2 连续Hopfield 神经网络
连续Hopfield网络模型的主要特性 1)连续Hopfield网络的神经元作为I/O转换，其传输 特性具有Sigmoid特性； 2)具有时空整合作用； 3)在神经元之间存在着大量的兴奋性和抑制性连接， 这种联接主要是通过反馈来实现。 4)具有既代表产生动作电位的神经元，又有代表按 渐进方式工作的神经元，即保留了动态和非线性两 个最重要的计算特性。 Hopfield神经网络设计的目标就是使得网络存储一些 特定的平衡点，当给定网络一个初始条件时，网络最后 会在这样的点上停下来
Ei 0
10
2012-7-7
2.9.2 连续Hopfield 神经网络
网络模型
w 11
+
I1
R 10
u1
1
v 1
C1
wi1 Ii
+
ui
Ri 0 Ci
i
vi
w j1
+
I
j
uj
j
vj
Rj0
Cj
wN1
+
IN RN 0
uN
N
vN
CN
11 2012-7-7
2.9.2 连续Hopfield 神经网络
17 2012-7-7
例2-8程序
%数 字 1的 点 阵 表 示 one=[-1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1]; %数 字 2的 点 阵 表 示 two=[1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1]; %设 定 网 络 的 目 标 向 量 T=[one;two]'; %创 建 一 个 Hopfield神 经 网 络2 NhomakorabeadE
du dv Ci ( i ) i dt dt dt i 1
Ci
i 1 N
df
1
(vi ) dvi dt
dvi
dt
df
1
dE
Ci
i 1
N
( vi ) dvi dt
0
Ci
i 1
N
df
(vi ) dvi 2 ( ) dvi dt
1
dvi
dt 连续Hopfield网络模型是稳定的
2 2012-7-7
2.9.1离散Hopfield 神经网络
网络模型表示法一
z
1
z
1
z
1 1
z
1
3 2012-7-7
2.9.1离散Hopfield 神经网络
网络模型表示法二
4 2012-7-7
2.9.1离散Hopfield 神经网络
相关参数说明 任意神经元 i与 j间的突触权值 wij 为，神经元之间 连接是对称的，神经元自身无连接. 每个神经元都同其他的神经元相连,其输出信号经 过其他神经元又有可能反馈给自己 设Hopfield网络中有n个神经元，其中任意神经元 的输入用 u i 表示，输出 v i用表示，它们都是时间的 函数，其中 v (t )也称为神经元在时刻 t 的状态。
Hopfield神经网络模型与学习算法
智能中国网提供学习支持
概述
Hopfield网络是神经网络发展历史上的一个重要的 里程碑。由美国加州理工学院物理学家J.J.Hopfield教 授于1982年提出，是一种单层反馈神经网络。 Hopfield网络是一种由非线性元件构成的反馈系统，其 稳定状态的分析比前向神经网络要复杂得多。1984年， Hello,I’m John Hopfield设计并研制了网络模型的电路，并成功地解决 Hopfield 了旅行商(TSP)计算难题(优化问题)。 Hopfield网络分为离散型和连续型两种网络模型， 分别记作DHNN (Discrete Hopfield Neural Network) 和CHNN (Continues Hopfield Neural Network) 。
2012-7-7
18
小结
概述 离散Hopfield神经网络及工作过程 连续Hopfield神经网络 稳定性分析 Hopfield神经网络的MATLAB实现 实例分析
19 2012-7-7
谢谢！
20 2012-7-7
w v
ij j 1 j i
n
j