人工神经网络文献综述摘要：人工神经网络是由类似于生物神经网络中的单个单元构成系统来实现功能。

术语“神经网络”通常是指在统计，认知心理学和人工智能领域采用的模型。

现代人工神经网络，灵感来自生物学.人工神经网络最大的优点在于其的预测性，可以节省大量的人力和物力，在过去的几十年内，人工神经网络得到的迅速的发展产生了许多分支，同时在在现实生活，心理学，认知心理学，人工智能，控制，风险评估等诸多领域得到了迅猛的发展和应用。

关键词：人工神经网络分支应用Abstract：Neural networks are similar to biological neural networks in the performing offunctions collectively and in parallel by the units, rather than there being a clear delineation of subtasks to which individual units are assigned. The term "neural network" usually refers to models employed in statistics, cognitive psychology and artificial intelligence.In modern software implementations of artificial neural networks, the approaches are inspired by biology. What attract us most is that its capability of forecasting, which save a considerable number of money and time. With rapid development in the past three decades, artificial neural networks have developed into several branches, which are widely applied in our real-life, cognitive psychology, artificial intelligence, control and risk appraisal.keywords：Artificial Neural Networks Branches Applications目录1.前言 (1)2.国内外的发展历史和研究现状 (1)2.1国内发展现状 (1)2.2国外发展现状 (2)3.重要理论：BP神经网络和RBF神经网络和优化 (2)3.1BP神经网络 (4)3.2 RBF神经网络 (6)4.应用领域 (7)5.不足及未来发展趋势 (9)5.1不足之处 (9)5.2发展趋势 (9)参考文献 (11)1.前言20世纪以来，随着集成电路以及微型电子技术的大量运用与发展，计算机对人们的生活产生了重大影响。

但由于计算机是按照冯•诺依曼原理，基于程序存取进行工作的，历经几十年发展，其结构模式与运行机制仍然没有跳出逻辑运算规则[1]。

在现实生活中，我们将自然界的信息分为俩大类：线性和非线性俩种。

线性信息指的是可以用数学语言或模型清楚明了而又严格地描述，并且可以将问题实现算法公式化，可用编写程序来快速高效求解。

对于非线性信息的分析，人们难以把自己的思维认识翻译成计算机指令，只能进行极其简单抽象的描述，比如开车，跑步等涉及到我们的感知联想和经验的问题时，人的大脑可以从中体会，运用自己的思维而掌握的处理问题的方法，从而顺利的完成想要达到的目标。

计算机在处理这类问题的方面却显得十分有限，迄今为止，计算机在解决图像处理与景物分析、语言识别与理解、智能机器人控制时，与人脑的能力相差很大，在很多时候甚至无能为力[2]。

随着信息科学与技术的飞速发展，这方面的问题日趋尖锐，促使科学和技术专家们寻找解决问题的新出路。

于是人们的思想转向研究人脑结构模式和信息处理机制时，这推动了脑科学的深入发展以及人工神经网络和脑模型的研究。

人工神经网络因此应运而生，人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。

神经网络是一种运算模型，由大量的节点相互联接构成。

神经网络具有学习能力，本质上来说，就是模拟生物对真实自然环境的反应。

例如，给杂乱无章的俩堆数据，让我们去寻找俩堆数据之间的关联，正常情况下，我们是很难通过人工计算算出结果的，但是通过构建合适的人工神经网络，我们可以找到俩个数据之间的关系，同时，找到这个关系之后，整个神经网络具有记忆作用，当我们给与新的数据时候，整个网络可以自动得出结果，如同我们人类的经验。

记忆了以前曾经发生的事情，再次遇到整个事情的时候，我们可以又快又好的处理[3]。

正是因为人工神经网络的学习和记忆能力，从出现时就引起了国内外学者的广泛的关注，解决了各行各业中的诸多难题。

2.国内外的发展历史和研究现状2.1国内发展现状20世纪80年代，随着神经网络在国外的流行，我国也逐步掀起了对其的研究热潮。

1990年2月国内8个顶尖学会联合在北京召开“中国神经网络首届学术会议”。

这次大会开创了中国人工神经网络及神经计算机方面科学研究的新纪元。

2004 年，武妍、王守觉等人提出了一种基于结果反馈的神经网络训练算法，其将输入调整与权值调整的BP算法结合起来，通过双重调整来最小化误差函数。

该方法是通过对输入样本集的模糊化处理来避免学习过程中的过拟合，提高了网络的泛化能力。

经过多年的发展，目前已有上百种的神经网络模型被提出。

这么多年来，它的结构与功能逐步改善，运行机制渐趋成熟，应用领域日益扩大，在解决各行各业的难题中显示出巨大的潜力，取得了丰硕的成果。

2.2国外发展现状在国外，1943年，神经生物学家MeCulloch和青年数学家Pitts合作，提出了第一个人工神经元模型，并在此基础上抽象出神经元的数理模型，开创了人工神经网络的研究，此后各国无数的科学家开始了对神经网络的深入研究，并取得了广泛的成功。

人工智能的创始人之一Minsky 和Papert对以感知器为代表的网络系统的功能及局限性从数学上做了深入研究，1969年出版轰动一时《Perceptrons》一书，指出简单的线性感知器的功能是有限的，它无法解决线性不可分的两类样本的分类问题[4]。

在20世纪70年代，电子技术的飞速发展使得传统的计算机进入鼎盛时期，其未显现出来的局限性掩盖了神经网络需求的必要性，使得神经网络出现了发展的低潮。

到七十年代后期时候，由于传统模型距人体真实模型较远，表现出了极大的局限性。

计算机不能从现实世界的现象和实例中获取并总结学习知识，从而导致了新一轮对神经网络的研究。

1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。

1984年，他又提出了连续时间Hopfield神经网络模型，有力地推动了神经网络的研究。

1986年进行认知微观结构地研究，提出了并行分布处理的理论。

人工神经网络的研究受到了各个发达国家的重视。

1987 年，在美国加州召开了第一届国际神经网络学会。

此后每年召开两次国际联合神经网络大会（IJCNN）。

同时也创建了很多相关刊物。

至此，神经网络理论研究在国内国外学术领域已经受到了相当的关注[5]。

3.重要理论：BP神经网络和RBF神经网络和优化人工神经网络从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。

它是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。

每个节点代表一种特定的输出函数，称为激励函数。

每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。

网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。

下图分别是生物神经网络图和简单人工神经网络示意图。

图1：生物神经元构成图2：人工神经网络构成其中图1可见，生物神经元通常由树突，轴突，细胞体，神经末梢组成，最初的人工神经网络就是完全模仿生物神经元。

人工神经网络模型主要由网络连接的拓扑结构、神经元的特征、学习规则等组成。

如图2所示：1n a a -为输入向量的各个分量；1n W W -为神经元各个突触的权值b 为偏置；f 为传递函数，通常为非线性函数；t 为神经元输出；数学表示 (WA'b)t f =+，W 为权向量；A 为输入向量；'A 为A 向量的转置；b 为偏置；f 为传递函数。

可见，一个神经元的功能是求得输入向量与权向量的内积后，经一个非线性传递函数得到一个标量结果。

图3：前向网络图4：反馈网络目前，已有近40种神经网络模型，根据连接的拓扑结构，模型可以分为：（1）前向网络：网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示如图3所示。

这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。

网络结构简单，易于实现。

（2）反馈网络：网络内神经元间有反馈，可以用一个无向的完备图表示。

这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。

系统的稳定性与联想记忆功能有密切关系。

如图4所示，这种带有反馈的网络一般用于优化设计中。

在这些网络中，最重要发展最快的是BP神经网络和RBF神经网络。

3.1 BP神经网络BP神经网络是目前应用最为广泛的一种模型。

BP（Back Propagation）神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，如下图所示。

图4：BP 神经网络模型由上图可知，BP 神经网络和其他神经网络最大的不同在于其中带有反馈。

BP 神经的学习过程，由信息的正向传播和误差反向传播两个部分组成。

首先整个BP 神经网络中，我们需要输入量，权值，传递函数，阈值（已知），期望（已知）。

我们通过输入一个数值，然后通过前向网络得出一个结果到达隐含层，隐含层中含有传递函数，数值经过传递函数变为1y ，然后我们再通过权值，经过输出层的传递函数得出输出结果。

我们通过比对期望和通过神经网络算出结果的插值，计算其中的误差，最后不断的修改权值，是的误差达到我们接受的范围。

具体计算如下 前向传播：在图1中,三层前馈网络中,输入向量为X =(x 1,x 2,......,x N1),，隐层输出量Y =( y 1,y 2,......,y N2),输出层向量Z =( z 1,z 2,......,z N3), 输入层和隐层之间的权值V = (W 1,W 2.......W N1),隐层和输出层之间的权值W =(W 1',W 2'.......W N2')，期望输出向量d =（d 1,d 2,......,d N3）。