神经网络文献综述吴一凡（西南交通大学峨眉校区，四川 峨眉 614202）摘 要：本文着重介绍了神经网络的发展、优点及其应用、发展动向，文中着重论述了神经网络目前的几个研究热点，对神经网络有一个全面系统的概括。

关键词：神经网络 模糊控制 遗传算法 专家系统 小波分析Abstract ：Development,merits and application of neural network are introduced in this paper. Then,the trends are presented.And its several main research directs.This paper can give you a comprehensive and systematic exposition of the neural network.Keywords ：Neural network Fuzzy control Genetic algorithm Expert system Wavelet analysis0 绪论神经网络最早的研究是20世纪40年代心理学家Mcculloch 和数学家Pitts 合作提出的，他们提出的MP 模型拉开了神经网络研究的序幕，其结构如图1所示。

图1 人工神经元示意图图1中，n I I I ,,,21 表示其他n 个神经元的突触输出，n W W W ,,,21 为其他n个神经元的突触连接，其值可正可负，分别表示兴奋性突触和抑制性突触。

∑θ为阀值，神经元的输出()θf 称为变换函数，一般采用的形式有线性函数、阶跃函数、Sigmoid 函数及双曲正切函数等。

神经网络的发展大致经三个阶段：1947~1969年为初期。

在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期。

这个期间神经网络研究经过了一个低潮，继续发展。

在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。

1984年，Hiton教授提出Boltzman机模型。

1986年Kumelhart等人提出误差反向传播神经网络，简称BP网络。

目前，BP网络已成为广泛使用的网络；1987年至今为发展期。

在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。

神经网络具有以下优点：1）可以充分逼近任意复杂的非线性关系。

2）具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。

3）并行处理方法，使得计算快速。

4）可以处理不确定或不知道的系统，因神经网络具有自学习和自适应能力。

5）具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。

1 神经网络应用现状神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下：1）自动控制领域：神经网络方法已经覆盖了控制理论中的绝大多数问题，主要有系统建模与辨识、PID参数整定、极点配置、内模控制、优化设计、预测控制、最优控制、自适应控制、滤波与预测容错控制、模糊控制和学习控制等。

典型的例子是世纪，20世纪60年代初，美国“阿波罗”登月计划中，Kilmer和Mc-Clloch等人根据脊椎动物神经系统中网状结构的工作原理，提出了一个模型，以使登月车在远距离复杂环境下具有一定的自制能力；2）处理组合问题：最典型的例子是成功地解决了TSP问题，即旅行推销员问题（Travelling Salesman Problem），另外还有最大匹配问题、装箱问题和作业调度等；3）模式识别：已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等；4）图像处理：对图像进行边缘监测、图像分割、图像压缩和图像恢复5）传感器信号处理：传感器输出非线性特性的矫正、传感器故障检测、滤波与除噪、环境影响因素的补偿、多传感器信息融合；6）机器人控制：对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航；7）卫生保健、医疗。

比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳网络的波形分类和特征提取在计算机临床诊断中的应用。

8）经济。

能对商品价格、股票价格和企业的可信度等进行短期预测。

9）化工领域。

能对制药、生物化学和化学工程等进行分析。

如：进行蛋白质结构分析、谱分析和化学反应分析等。

10）地理领域。

在遥感图像分类中有广泛的应用，在GIS方面应用人工神经网络理论，提高系统对数据进行复杂的综合分析的功能。

11）另外，在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。

2 神经网络发展趋势神经计算的基础理论框架以及生理层面的研究仍需深入。

这方面的工作虽然很困难，但为了神经计算的进一步发展却是非做不可的。

增强神经网络的可理解性是神经网络界需要解决的一个重要问题。

这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。

神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统，正成为一大研究热点。

神经网络用于控制时还有许多问题值得研究：现行的学习算法收敛速度低，存在局部最优问题；分布式并行处理方式的网络内部机理并不清楚，选择网络层数、每层神经元个数，还得凭经验；泛化能力不足，制约了控制系统的鲁棒性；需要创造更适合于控制的专用神经网络；网络建立模算法和控制系统的收敛性与稳定性需进一步研究。

3 神经网络研究热点3.1 神经网络与模糊逻辑的结合模糊逻辑是一种处理不确定性、非线性问题的有力工具。

它比较适合于表达那些模糊或定性的知识，其推理方式比较类似于人的思维方式，这都是模糊逻辑的优点。

但它缺乏有效的自学习和自适应能力。

神经网络具有并行计算、分布式信息存储、容错能力强以及具备自适应学习能力等一系列优点。

但一般来说，神经网络不适于表达基于规则的知识，因此在对神经网络进行训练时，由于不能很好地利用已有的经验知识，常常只能将初始值取为零或随机数，从而增加了网络的训练时间或者陷入非要求的局部极值而将模糊逻辑与神经网络结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算法可以很快收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经网络的优点所在。

同时，由于它具有神经网络的结构，因而参数的学习和调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。

模糊神经网络控制已成为一种趋势，它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性，使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。

模糊神经控制包括两个方面：1）基于神经网络的模糊控制：它将模糊系统设计方法与神经网络的连接主义结构和学习方法结合起来，把模糊系统表达成连接主义方式的网络结构，模糊控制的模糊化、模糊推理和解模糊化三个基本过程全都用神经网络来实现；2）模糊神经网络：它在传统的神经网络中增加一些模糊部分，除了具有神经网络的功能外，还能处理模糊信息，完成模糊推理功能。

模糊神经控制的未来研究应集中于以下几个方面：1）研究模糊逻辑与神经网络的对应关系，将对模糊控制器的调整转化为等价的神经网络的学习过程，用等价的模糊逻辑来初始化神经网络；2）完善模糊神经控制的学习算法，以提高控制算法的速度与性能，可引入遗传算法、BP算法中的模拟退火算法等，以提高控制性能；3）模糊控制规则的在线优化，可提高控制器的实时性与动态性能；4）需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性；5）关于神经网络与模糊逻辑相结合的研究已有很多，比如用于氩弧焊、机器人控制等。

3.2 神经网络与遗传算法的结合遗传算法是1962年由美国的Hollad提出的。

遗传算法是基于自然选择和基因遗传学原理的全局优化搜索算法，因其简单通用，鲁棒性强，适于并行处理，已成为人们用来解决高度复杂问题的一个新思路和新方法。

目前已被广泛用于许多实际问题。

遗传算法与神经网络的结合主要体现在以下几个方面：网络连接权重的进化训练；网络结构的进化计算；网络结构和连接权重的同时进化；训练算法的进化设计。

基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别、机器人控制、财政预测等，并取得了较传统神经网络更好的性能和结果。

但从总体上看，这方面研究还处于初期阶段，理论方法有待于完善规范，应用研究有待于加强提高。

神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。

3.3 神经网络与专家系统的结合人工神经网络是基于输入/输出的一种直觉性反射，适于发挥经验知识的作用，进行浅层次的经验推理；专家系统是基于知识、规则匹配的逻辑知识的作用，进行深层次的逻辑推理。

专家系统的特色是符号推理，神经网络擅长数值计算。

因此将两者科学地结合，可以取长补短。

基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块，各功能子系统模块分别由神经网络或专家系统实现。

其研究的主要问题包括：混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。

由于该混合系统从根本上抛开了神经网络和专家系统的技术限制，是当前研究的热点。

3.4 神经网络与小波分析的结合神经网络与小波分析的结合小波变换是对Fourier分析方法的突破。

它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细节。

目前可以将它与神经网络相结合实现间接辨识与建模。

在结合方法上，可以将小波函数作为基函数构造神经网络形成小波网络，或者以小波变换的多分辨率特性对过程状态信号进行处理，实现信噪分离，并提取出对加工误差影响最大的状态特性，作为神经网络的输入。

4 结论经过近半个世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，但其理论分析方法和设计方法还有待于进一步发展。

相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。

本文只简单介绍了神经网络的神经网络的发展、优点及其应用、发展动向，文中着重论述了神经网络目前的几个研究热点，对神经网络有一个全面系统的概括。

参考文献1.孙增圻，张再兴，邓志东.智能控制理论与技术[M].北京：清华大学出版社.19972.王学武，谭得健.神经网络的应用与发展趋势[J].计算机工程与应用，2003.33.周志华，何佳洲，陈世富.神经网络国际研究动向[J].模式识别与人工智能，2000.13。