智能控制理论及其应用
第3章 神经网络控制
主讲：范立南 沈阳大学信息工程学院
1
第3章神经网络控制
▪ 3.1 神经网络的发展和应用 ▪ 3.2 神经网络的特性 ▪ 3.3 生物神经元的结构与功能 ▪ 3.4 人工神经网络模型与变换函数 ▪ 3.5 典型前馈神经网络－BP网络 ▪ 3.6 典型反馈神经网络－ Hopfield网络 ▪ 3.7 神经网络控制原理 ▪ 3.8 神经网络的应用实例模型，用 于模式分类
5
3.1 神经网络的发展和应用
• 1969年M.Minsky和S.Papert发表专著“感 知机”，指出线性感知机功能有限
• 70年代，神经网络研究处于低潮
6
3.1 神经网络的发展和应用
• 1982、1984年，美国物理学家J. J. Hopfield发 表2篇文章，提出一种反馈互连网，称 Hopfield网，开拓了神经网络用于联想记忆和 优化计算的新途径
16
3.2 神经网络的特性
▪ 并行分布处理 • 神经网络具有高度的并行结构和并行实现能
力，因而能够有较好的耐故障能力和较快的 总体处理能力 • 特别适于实时控制和动态控制
17
3.2 神经网络的特性
▪ 非线性映射 • 神经网络具有固有的非线性特性，这源于其
近似任意非线性映射（变换）能力 • 这一特性给非线性控制问题带来新的希望
本单元 • 据神经生物学家研究的结果表明，人的大脑
一般有1010～1012个神经元
23
3.3 生物神经元的结构与功能
生物神经元的结构
• 大多数神经元由一个细胞体和突两部分组成
24
3.3 生物神经元的结构与功能
生物神经元的结构
25
3.3 生物神经元的结构与功能
生物神经元的结构
• 细胞体由细胞核、细胞质和细胞膜组成 • 突分两类，即轴突和树突
• 人工神经网络是一种非线性的映射方式，它 将输入的特征值映射到网络的输出分类结果， 并可依照其分类的误差大小或某些能量函数 来调整网络中的加权值使其达到收敛
• 这些方法模仿人的生理学习功能，并能够将 输入信息结合到分类规则中去
15
3.2 神经网络的特性
▪ 神经网络对于解决模式识别问题来说比其他 方法具有3点突出的优势 ①对问题的了解要求较少 ②可以实现特征空间较复杂的划分 ③适合于用高速并行处理系统来实现
▪ 具有较强的适应和学习功能
▪ 是智能控制的一个重要分支领域
4
3.1 神经网络的发展和应用
▪ 神经网络的研究至今有60多年的历史，其发 展道路曲折，目前已得到较深入而广泛的研 究与应用
• 1943年，心理学家McCulloch和数理学家 Pitts提出形式神经元数学模型，通常称为 MP模型
• 1949年，D.O.Hebb提出调整神经网络连接 权的规则（ Hebb 学习规则）
7
3.1 神经网络的发展和应用
• 1986年，美国加州大学学者 D. E. Rumelhart （鲁梅尔哈特 ）和J. L. McClelland（麦克莱 兰 ）提出多层前馈网的反向传播算法（Back Bropagation），简称BP网络或BP算法
David Rumelhart
James McClelland
定量和定性操作 • 神经网络的强适应和信息融合能力使得网络
过程可以同时输入大量不同的控制信号，解 决输入信息间的互补和冗余问题，并实现信 息集成和融合处理 • 这些特性特别适于复杂、大规模和多变量系 统的控制
20
3.2 神经网络的特性
▪ 硬件实现 • 神经网络不仅能够通过软件而且可借助硬件
实现并行处理 • 由超大规模集成电路实现的硬件已经面世 • 这使得神经网络具有快速和大规模处理能力
12
3.1 神经网络的发展和应用
➢预测与管理 – 股票市场预测 – 有价证券管理 – 借贷风险分析 – 信用卡管理 – 机票管理
13
3.1 神经网络的发展和应用
➢通信 – 自适应均衡 – 路由选择
➢其它 – 导航 – 电机故障检测 – 多媒体技术等
14
3.2 神经网络的特性
• 神经网络是受人和动物神经系统启发，利用 大量简单处理单元互联而构成的复杂系统， 以解决复杂模式识别与行为控制问题
断扩大
10
3.1 神经网络的发展和应用
➢模式识别与图像处理 – 印刷体和手写体字符识别 – 语音识别 – 签字识别 – 指纹识别 – 人脸识别 – 癌细胞检测 – 心电图和脑电图分类 – 目标检测与识别
11
3.1 神经网络的发展和应用
➢控制与优化 – 化工过程控制 – 机械手运动控制 – 电弧炉电极控制 – 石油精练和食品工业中优化控制
的网络
21
3.2 神经网络的特性
➢总之，神经网络具有 – 自学习 – 自适应 – 自组织 – 大规模并行处理 等特点
▪ 在自动控制领域展现了广阔的应用前景
22
3.3 生物神经元的结构与功能
生物神经元的结构
• 人脑是由大量的神经元(神经细胞)组合而成 • 神经元之间互相连接 • 神经系统的基本构造是神经元 • 是处理人体内各部分之间相互信息传递的基
2
▪ 神经网络研究热潮的再度兴起，不仅仅是 因为神经科学本身取得了巨大的进展，更 主要的原因在于发展新型计算机和人工智 能新途径的迫切需要
▪ 神经网络的研究内容相当广泛，反映了多 学科交叉技术领域的特点
3
▪ 神经网络控制是一种基本上不依赖于模型 的控制方法
▪ 适用于具有不确定性或高度非线性的控制对 象
8
3.1 神经网络的发展和应用
• 1987年，在美国召开第1届国际神经网络会议 • 1990年12月，国内首届神经网络大会在北京
举行
9
3.1 神经网络的发展和应用
➢发展趋向及前沿问题
• 对智能和机器关系问题的认识将进一步 增长
• 神经计算和进化计算将有重大的发展 • 神经网络结构和神经元芯片的作用将不
18
3.2 神经网络的特性
▪ 通过训练进行学习 • 神经网络是通过所研究系统过去的数据记录
进行训练的 • 一个经过适当训练的神经网络具有归纳全部
数据的能力 • 因此，神经网络能够解决那些由数学模型或
描述规则难以处理的控制过程问题
19
3.2 神经网络的特性
▪ 适应与集成 • 神经网络能够适应在线运行，并能同时进行