当前位置:文档之家› 关于人工神经网络的分析

关于人工神经网络的分析

人工神经网络分析班级:学号:姓名:指导教师:时间:摘要:人工神经网络也简称为神经网络,是一种模范动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。

这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。

自从认识到人脑的计算与传统的计算机相比是完全不同的方式开始,关于人工神经网络的研究就开始了。

半个多世纪以来,神经网络经历了萌芽期、第一次高潮期、反思低潮期、第二次高潮期、再认识与应用研究期五个阶段。

而近年来,人工神经网络通过它几个突出的优点更是引起了人们极大的关注,因为它为解决大复杂度问题提供了一种相对来说比较有效的简单方法。

目前,神经网络已成为涉及计算机科学、人工智能、脑神经科学、信息科学和智能控制等多种学科和领域的一门新兴的前言交叉学科。

英文摘要:Artificial neural networks are also referred to as the neural network is a neural network model of animal behavior, distributed parallel information processing algorithm mathematical model. This network relies on system complexity, achieved by adjusting the number of nodes connected to the relationship between, so as to achieve the purpose of processing information.Since the understanding of the human brain compared to traditional computer calculation and are completely different way to start on artificial neural network research began. Over half a century, the neural network has experienced infancy, the first high tide, low tide reflections, the second peak period, and again knowledge and applied research on five stages. In recent years, artificial neural networks through which several prominent advantage is attracting a great deal of attention because it is a large complex problem solving provides a relatively simple and effective way. Currently, neural networks have become involved in computer science, artificial intelligence, brain science, information science and intelligent control and many other disciplines and fields of an emerging interdisciplinary foreword.关键字:人工神经网络、神经网络、应用领域、人工神经元模型、学习方法、发展、前景正文:1.神经元模型的提出人工神经网络(ARTIFICIAL NECRAL NETWORK,简称A.N.N)是在对人脑组织结构和运行机智的认识理解基础之上模拟其结构和智能行为的一种工程系统。

早在上个世纪40年代初期,心理学家McCulloch、数学家Pitts就提出了人工神经网络的第一个数学模型,从此开创了神经科学理论的研究时代。

其后,F。

Rosenblatt、Widrow和Hopf、J.J.Hopfield等学者又先后提出了感知模型,使得人工神经网络技术得以蓬勃发展。

神经网络是由大量的处理单元(神经元)互相连接而成的网络。

为了模拟大脑的基本特性,在现代神经科学研究的基础上,人们提出来人工神经网络的模型。

神经元是大脑处理信息的基本单元,人脑大约由10^11个神经元组成,神经元互相连接成神经网络。

神经元以细胞体为主体,由许多向周围延伸的不规则树枝状纤维构成的神经细胞,其形状很像一棵枯树的枝干。

主要由细胞体、树突、轴突和突触(Synapse,又称神经键)组成。

生物神经元传递信息的过程为多输入、单输出,神经元各组成部分的功能来看,信息的处理与传递主要发生在突触附近,当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度,即超过其阈值电位后,突触前膜将向突触间隙释放神经传递的化学物质,突触有两种类型,兴奋性突触和抑制性突触。

前者产生正突触后电位,后者产生负突触后电位。

人工神经网络是一个并行、分布处理结构,它由处理单元及其称为联接的无向讯号通道万连而成。

这些处理单元(PE -Processing Element)具有局部内存,并可以完成局部操作。

每个处理单元有一个单一的输出联接,这个输出可以根据需要被分支成希望个数的许多并行联接,且这些并行联接都输出相同的信号,即相应处理单元的信号,信号的人小不因分支的多少而变化。

处理单元的输出信号可以是任何需要的数学模型,每个处理单元中进行的操作必须是完全局部的。

也就是说,它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的信。

2. 基本特征人工神经网络是由大量处理单元互联组成的非线性、自适应信息处理系统。

它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。

人工神经网络具有四个基本特征:(1)非线性非线性关系是自然界的普遍特性。

大脑的智慧就是一种非线性现象。

人工神经元处于激活或抑制二种不同的状态,这种行为在数学上表现为一种非线性关系。

具有阈值的神经元构成的网络具有更好的性能,可以提高容错性和存储容量。

(2)非局限性一个神经网络通常由多个神经元广泛连接而成。

一个系统的整体行为不仅取决于单个神经元的特征,而且可能主要由单元之间的相互作用、相互连接所决定。

通过单元之间的大量连接模拟大脑的非局限性。

联想记忆是非局限性的典型例子。

(3)非常定性人工神经网络具有自适应、自组织、自学习能力。

神经网络不但处理的信息可以有各种变化,而且在处理信息的同时,非线性动力系统本身也在不断变化。

经常采用迭代过程描写动力系统的演化过程。

(4)非凸性一个系统的演化方向,在一定条件下将取决于某个特定的状态函数。

例如能量函数,它的极值相应于系统比较稳定的状态。

非凸性是指这种函数有多个极值,故系统具有多个较稳定的平衡态,这将导致系统演化的多样性。

3.人工神经元模型人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。

目前,已有近40种神经网络模型,其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。

根据连接的拓扑结构,神经网络模型可以分为:3.1 通用模型a图一通用模型示意图3.2前向网络网络中各个神经元接受前一级的输入,并输出到下一级,网络中没有反馈,可以用一个有向无环路图表示。

这种网络实现信号从输入空间到输出空间的变换,它的信息处理能力来自于简单非线性函数的多次复合。

网络结构简单,易于实现。

反传网络是一种典型的前向网络。

图二前向网络3.3用来存储某种模式序列,层内互连前向网络图三层内互连前向网络3.4限制层内同时动作的神经元,分组功能相互结合型网络图四分组功能相互结合型网络3.5反馈网络网络内神经元间有反馈,可以用一个无向的完备图表示。

这种神经网络的信息处理是状态的变换,可以用动力学系统理论处理。

系统的稳定性与联想记忆功能有密切关系。

Hopfield网络、波耳兹曼机均属于这种类型。

图五反馈网络4.学习方法学习是神经网络研究的一个重要内容,它的适应性是通过学习实现的。

根据环境的变化,对权值进行调整,改善系统的行为。

由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。

Hebb规则认为学习过程最终发生在神经元之间的突触部位,突触的联系强度随着突触前后神经元的活动而变化。

在此基础上,人们提出了各种学习规则和算法,以适应不同网络模型的需要。

有效的学习算法,使得神经网络能够通过连接权值的调整,构造客观世界的内在表示,形成具有特色的信息处理方法,信息存储和处理体现在网络的连接中。

神经网络在两个方面与人脑相似:(1)神经网络获取的知识是从外界环境中学习得来的。

(2)互连神经元的连接强度,即突触权值,用于存储获取的知识。

根据学习环境不同,神经网络的学习方式可分为监督学习(如图五所示)和非监督学习(如图六所示)。

4.1有教师学习(监督学习)在监督学习中,将训练样本的数据加到网络输入端,同时将相应的期望输出与网络输出相比较,得到误差信号,以此控制权值连接强度的调整,经多次训练后收敛到一个确定的权值。

当样本情况发生变化时,经学习可以修改权值以适应新的环境。

使用监督学习的神经网络模型有反传网络、感知器等。

图六 监督学习4.2无教师学习(无监督学习)非监督学习时,事先不给定标准样本,直接将网络置于环境之中,学习阶段与工作阶段成为一体。

此时,学习规律的变化服从连接权值的演变方程。

非监督学习最简单的例子是Hebb 学习规则。

竞争学习规则是一个更复杂的非监督学习的例子,它是根据已建立的聚类进行权值调整。

自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。

图七 无监督学习4.3强化学习(再励学习)a 期望输出如图八所示,这种学习介于上述两种情况之间,外部情况对系统输出结果只能给出评价信息(奖或惩),而不是给出正确答案。

学习系统通过强化那些受奖的动作来改善自身的性能。

图八强化学习当学习系统所处环境平稳时(统计特性不随时间变化),从理论上讲通过监督学习可以学到环境的统计特性,这些统计特性可被学习系统(神经网络)作为经验记住。

如果环境是非平稳的(统计特性随时间变化),通常的监督学习没有能力跟踪这种变化,此时需要对每一种不同输入都作为一个新的例子来对待。

5.特征及其优缺点人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能。

相关主题