29
Hebb学习理论的发展（二）
Oja（1982）为了避免不稳定性，提出了一 种非监督学习律，称之为“Oja学习律”。Oja 学习规则作为Hebb 学习规则的一种改进算法, 它在单个神经元的权值变化中具有很好的收敛 性 , 但是在规模比较大的生物神经网络中, Oja 学习规则易使网络的解产生发散。
30
Hebb学习理论的发展（三）
郑鸿宇等根据实际生物神经元之间的连接强 度随时间变化的特点，首先构造了一个 Hodgkin-Huxley 方程为节点动力学模型的动 态变权小世界生物神经网络模型，然后研究了 该模型神经元的兴奋特性、权值变化特点和不 同的学习系数对神经元的兴奋统计特性的影响 。 最有意义的结果是,在同样的网络结构、网络 参数及外部刺激信号的条件下，学习系数b 存 在一个最优值bopt ，使生物神经网络的兴奋度 在bopt 处达到最大。
17
神经突触可塑性
真实神经网络系统通常是动态的。为 此我们不仅要考虑神经元动力系统和神 经网络拓扑结构的的高度非线性和复杂 性，还要讨论神经网络系统的时变性、 鲁棒性和易损性等问题，其中涉及的一 个重要问题是学习和记忆功能，这与突 触可塑性研究密切相关。
18
突触可塑性的实验基础
Bliss（1973)在麻醉的家兔海马上发现了长时程突触
生物神经网络系统分类（一）
微观
分子层次 ； 细胞层次； 介观 神经元集群（耦合振子集合 ）层次； 宏观 器官和运动控制系统层次
9
生物神经网络系统分类（二）
结构性网络(structural network )：从神经元之间直
到脑功能区之间的连接关系的大脑网络生理解剖结果 功能性网络(functional network) ：描述神经元集群 （例如皮层区域）各节点之间的统计性连接关系所产生 的信息结果 效率性网络(effective network) ：描述皮层神经网络 各节点非线性动力学行为之间的相互影响或信息流向， 比功能性网络更强调节点之间相互因果作用
19
Hebb突触可塑性假说
20世纪中叶，神经心理学家D. O. Hebb根 据长期实验研究的结果，提出了学习过程中突 触运作的基本规律，即”当某一突触两端的神 经元同步激活（同为兴奋或同为抑制）时，该 连接强度增强，反之应减弱”的著名论断，被 称为Hebb假说。
20
The Hebbian postulate for cellular learning
第六届全国复杂网络学术会议
生物神经网络系统的突触连接的可塑性
与学习记忆功能
北京航空航天大学
陆启韶
2010.10.17
1
目录
一、生物神经网络系统 二、神经突触可塑性动力学研究 三、神经学习记忆功能研究 四、一些思考
2
前言
生命体主要活动：
物质运动--- 机械、电磁、化学等作用 信息活动--- 生长信息、认知信息、集群信息 这两种活动 密切相关，为此需要深入研究它 们的相互作用。生物神经网络系统的动力学研 究突出地反映这个问题。 复杂网络系统的理论已经重要成果，当前的一 个发展趋势是在生物网络系统中的应用。
神经元通过突触连接进行神经信息传递和转导 ，以实现细胞间的信息交流。 根据神经元的耦合机理，突触传递分为电突触 和化学突触两类，再按响应特性又可分为兴奋 型和抑制型。 突触动力学用以刻画在突触中电信号和化学信 号的相互转化，信号的接收和传递等动力学过 程。
14
突触
神经元间的信号传递方式：突触
“When an axon of cell A is near enough to excite B and repeatedly or persistently takes part in firing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency, as one of the cells firing B, is increased.”
增强效应（long-term potentiation, LTP)，单个脉冲 测试引起群体峰电位或群体兴奋性突触后电位增高。 Nicoll et al（1988）通过实验验证了联合型LTP。 后来还发现突触后电位也能产生与长时程突触增强的 相反方式，使用的刺激方式是长时间的低频刺激，持 续几百次即可引起兴奋性突触后电位的持续降低 (long-term depression, LTD) 。这些都为突触的变 化提供了可靠的证据。 神经突触的耦合系数受到突触前后的神经元活动的相 互作用的影响而随时间变化，称为突触的可塑性。
22
Hebb的突触可塑性假说的实验验证 Hebb关于学习和记忆的突触可塑性变化假 说，在当时仅仅是一种猜想。而后，形态学研 究以及电生理实验开始证实这一假说，如 Bliss（1973）等的工作。半世纪以来的神经 生理学的实验研究所取的证据都倾向于支持 Hebb突触修饰的假说。还有一些实验表明， 随着某一神经回路的多次应用，该回路上的突 触数量增多，体积变大，甚至还长出新的突触 出来，学习和记忆功能得到显著加强。
25
树突对突触可塑性的影响（续）
结论： 在生物神经网络模型时，必然存在突触 可塑性与树突的可兴奋性的相互作用回 路特性。 树突的电性质不是静态的，要受到神经 调制机理和突触活动的影响，因此突触 学习规律会随着树突响应特性函数的 形 式发生动态的变化。
26
三、神经学习记忆功能研究
学习和记忆是动物和人类的生存必需的重要脑基本 功能，是两个互相联系的神经过程。学习是指获得外 界信号的神经过程，而记忆是将获得的信息储存和读 出的神经过程。 学习和记忆本身也不是单一过程，可以包含不同的 神经过程： 学习可分为非联合型学习和联合型学习。 记忆可分为短时记忆和长时记忆；陈述性记忆和非 陈述性记忆等。
23
Hebb的突触可塑性假说的实验验证（续）
近年来，特别是Markram、Bell、Amzica、 Zhang及Bi 等人的实验研究工作给出了较为完整 的和准确的关于Hebb突触的实验证明，并给出了 突触修饰对于时间的敏感性以及发现了Hebb猜想 中并未明确的突触抑制（depression）机制。这 些工作显示：突触可塑性对时间信号具有敏感性 ；正相关的突触后放电将引起突触联系的增强， 而负相关的突触后放电将引起突触联系减弱。
27
Байду номын сангаас
Hebb理论与学习记忆功能
突触可塑性是学习和记忆的基础。 Hebb提出的关于突触传递变化的理论，设想在学习 过程中突触发生某些变化，导致突触连接的增强和传递 效能的提高。他提出重复持续的活动可以引起神经元连 接的长时程变化并固定起来，即学习能力的增强。 他后来又进一步指出，记忆不是两个神经元之间连接 的变化，而是同时被激活的神经元集合的持续活动可以 使细胞的相互联系加强，从而实现对刺激的记忆。 神经电脉冲到达突触的时间是离散的，空间分布也是 复杂的，因此突触可塑性是统计的结果。
结构性或功能性网络可以利用图论方法, 同时采用各种技术手 段（包括EEG，MEG，MRI，fMRI，CT，PET）和理论模型及其计算 仿真一起去拼接出大脑网络的图景。但效率性网络的研究尚少。
10
神经动力学（计算神经科学）
神经动力学（计算神经科学）研究生物神经元
网络的放电和信息活动,以及神经认知行为的 动力学问题是非线性动力学、网络科学和神经 科学的跨学科交叉研究领域。 建立神经科学的“理论、计算和实验相结合” 的新研究模式。 向神经系统的放电活动、信息编码、网络及认 知行为提出了一系列崭新研究方向和问题。
21
Hebb突触学习规则
令神经细胞A和B的电发放为Va和Vb，它的突触连 接系数为Wab。由于细胞A和细胞B的发放，引起它们 之间突触联系有个增量△Wab，根据Hebb规则有数学 表达式： △Wab = f（Va，Vb）， 其中f表示某种函数关系。 Hebb的突触学习律并没有直接告诉我们这个函数f 的形式如何。把神经元作为神经系统的基本单元，神 经元之间的突触系数作为一个变数。现在借助数学， 计算机科学和物理学理论，提出一些学习和记忆的数 学理论，这些理论都是建立在突触可塑性基础之上。
15
电突触与化学突触
16
突触耦合的数学模型
电耦合的数学模型为：Ie=ge(vpre(t – d) –
vpost(t))，这里 ge是耦合强度，vpre 和 vpost是突 触前和突触后膜电位， d表示突触延迟。 化学耦合有多种数学模型，如 Isyn = gsyn(v – vsyn) H(vpre(t - d) –vthresh) 这里 gsyn是耦合强度，vpre 和 vsyn是突触前和 突触膜电位， vthresh是突触阈值，d表示突触延 迟。
11
生物神经元放电和编码活动
神经生理解剖结构
生物神经复杂网络
神经认知科学
神经医学与生物控制工程
智能机器人
神经计算机
生物控制科学
神经医学
12
二、神经突触可塑性动力学研究
突触概述 突触可塑性 树突对突触可塑性的影响
时滞、噪声对神经网络系统的放电同步
和时空行为的影响
13
突触概述
神经元之间的信号传递通过精细的突触结构。
ian3
一、生物神经网络系统
4
神经元
大脑
神经元集群 脑的特定区域 皮层的大规模组 织
全脑
生物神经网络系统概述（一）
生物神经系统作为产生感觉、学习、记忆和 思维等认知功能的器官系统，是多层次的超大 型信息网络，也是目前发现的最复杂的非线性 网络系统。 神经信息传导和整合过程是通过神经网络系 统实现的，因此神经系统的网络动力学行为与 其信息活动和认知功能密切相关。为了进一步 探讨脑神经信息传导过程和认知、思维、控制 等功能的需要，必须深入研究神经网络系统的 丰富动力学问题。