遗传算法与智能算法综述摘要:随着计算机技术的飞速开展,智能计算方法的运用范围也越来越普遍,本文引见了以后存在的一些智能计算方法,论述了其任务原理和特点,同时对智能计算方法的开展停止了展望。
关键词:人工神经网络遗传算法模拟退火算法群集智能蚁群算法粒子群算1 什么是智能算法智能计算也有人称之为〝软计算〞,是们受自然〔生物界〕规律的启迪,依据其原理,模拟求解效果的算法。
从自然界失掉启迪,模拟其结构停止发明发明,这就是仿生学。
这是我们向自然界学习的一个方面。
另一方面,我们还可以应用仿生原理停止设计(包括设计算法),这就是智能计算的思想。
这方面的内容很多,如人工神经网络技术、遗传算法、模拟退火算法、模拟退火技术和群集智能技术等。
2 人工神经网络算法〝人工神经网络〞(ARTIFICIAL NEURAL NETWORK,简称ANN)是在对人脑组织结构和运转机制的看法了解基础之上模拟其结构和智能行为的一种工程系统。
早在本世纪40年代初期,心思学家McCulloch、数学家Pitts就提出了人工神经网络的第一个数学模型,从此开创了神经迷信实际的研讨时代。
其后,F Rosenblatt、Widrow和J. J .Hopfield等学者又先后提出了感知模型,使得人工神经网络技术得以蓬勃开展。
神经系统的基本结构是神经元(神经细胞),它是处置人体内各局部之间相互信息传递的基本单元。
据神经生物学家研讨的结果说明,人的一个大脑普通有1010~1011个神经元。
每个神经元都由一个细胞体,一个衔接其他神经元的轴突和一些向外伸出的其它较短分支——树突组成。
轴突的功用是将本神经元的输入信号(兴奋)传递给别的神经元。
其末端的许多神经末梢使得兴奋可以同时传送给多个神经元。
树突的功用是接受来自其它神经元的兴奋。
神经元细胞体将接遭到的一切信号停止复杂处置(如:加权求和,即对一切的输入信号都加以思索且对每个信号的注重水平——表达在权值上——有所不同)后由轴突输入。
神经元的树突与另外的神经元的神经末梢相连的局部称为突触。
2.1 人工神经网络的特点人工神经网络是由少量的神经元普遍互连而成的系统,它的这一结构特点决议着人工神经网络具有高速信息处置的才干。
人脑的每个神经元大约有103~104个树突及相应的突触,一团体的大脑总计约构成1014~1015个突触。
用神经网络的术语来说,即是人脑具有1014~1015个相互衔接的存储潜力。
虽然每个神经元的运算功用十分复杂,且信号传输速率也较低(大约100次/秒),但由于各神经元之间的极度并行互连功用,最终使得一个普通人的大脑在约1秒内就能完成现行计算机至少需求数10亿次处置步骤才干完成的义务。
人工神经网络的知识存储容量很大。
在神经网络中,知识与信息的存储表现为神经元之间散布式的物理联络。
它分散地表示和存储于整个网络内的各神经元及其连线上。
每个神经元及其连线只表示一局部信息,而不是一个完整详细概念。
只要经过各神经元的散布式综合效果才干表达出特定的概念和知识。
由于人工神经网络中神经元个数众多以及整个网络存储信息容量的庞大,使得它具有很强的不确定性信息处置才干。
即使输入信息不完全、不准确或模糊不清,神经网络依然可以联想思想存在于记忆中的事物的完整图象。
只需输入的形式接近于训练样本,系统就能给出正确的推理结论。
正是由于人工神经网络的结构特点和其信息存储的散布式特点,使得它相关于其它的判别识别系统,如:专家系统等,具有另一个清楚的优点:强健性。
生物神经网络不会由于一般神经元的损失而失掉对原有形式的记忆。
最有力的证明是,当一团体的大脑因不测事故受细微损伤之后,并不会失掉原有事物的全部记忆。
人工神经网络也有相似的状况。
因某些缘由,无论是网络的硬件完成还是软件完成中的某个或某些神经元失效,整个网络依然能继续任务。
人工神经网络是一种非线性的处置单元。
只要当神经元对一切的输入信号的综合处置结果超越某一门限值后才输入一个信号。
因此神经网络是一种具有高度非线性的超大规模延续时间动力学系统。
它打破了传统的以线性处置为基础的数字电子计算机的局限,标志着人们智能信息处置才干和模拟人脑智能行为才干的一大飞跃。
2.2 几种典型神经网络简介2.2.1 多层感知网络(误差逆传达神经网络)在1986年以Rumelhart和McCelland为首的迷信家出版的«Parallel Distributed Processing»一书中,完整地提出了误差逆传达学习算法,并被普遍接受。
多层感知网络是一种具有三层或三层以上的阶级型神经网络。
典型的多层感知网络是三层、前馈的阶级网络,即:输入层I、隐含层(也称中间层)J 和输入层K。
相邻层之间的各神经元完成全衔接,即下一层的每一个神经元与上一层的每个神经元都完成全衔接,而且每层各神经元之间无衔接。
但BP网并不是十分的完善,它存在以下一些主要缺陷:学习收敛速度太慢、网络的学习记忆具有不动摇性,即:当给一个训练好的网提供新的学习记忆形式时,将使已有的衔接权值被打乱,招致已记忆的学习形式的信息的消逝。
2.2.2 竞争型(KOHONEN)神经网络它是基于人的视网膜及大脑皮层对剌激的反响而引出的。
神经生物学的研讨结果说明:生物视网膜中,有许多特定的细胞,对特定的图形(输入形式)比拟敏感,并使得大脑皮层中的特定细胞发生大的兴奋,而其相邻的神经细胞的兴奋水平被抑制。
关于某一个输入形式,经过竞争在输入层中只激活一个相应的输入神经元。
许多输入形式,在输入层中将激活许多个神经元,从而构成一个反映输入数据的〝特征图形〞。
竞争型神经网络是一种以无教员方式停止网络训练的网络。
它经过自身训练,自动对输入形式停止分类。
竞争型神经网络及其学习规那么与其它类型的神经网络和学习规那么相比,有其自己的鲜明特点。
在网络结构上,它既不象阶级型神经网络那样各层神经元之间只要单向衔接,也不象全衔接型网络那样在网络结构上没有清楚的层次界限。
它普通是由输入层(模拟视网膜神经元)和竞争层(模拟大脑皮层神经元,也叫输入层)构成的两层网络。
两层之间的各神经元完成双向全衔接,而且网络中没有隐含层。
有时竞争层各神经元之间还存在横向衔接。
竞争型神经网络的基本思想是网络竞争层各神经元竞争对输入形式的照应时机,最后仅有一个神经元成为竞争的胜者,并且只将与获胜神经元有关的各衔接权值停止修正,使之朝着更有利于它竞争的方向调整。
神经网络任务时,关于某一输入形式,网络中与该形式最相近的学习输入形式相对应的竞争层神经元将有最大的输入值,即以竞争层获胜神经元来表示分类结果。
这是经过竞争得以完成的,实践上也就是网络回想联想的进程。
除了竞争的方法外,还有经过抑制手腕获取成功的方法,即网络竞争层各神经元抑制一切其它神经元对输入形式的照应时机,从而使自己〝崭露头角〞,成为获胜神经元。
除此之外还有一种称为侧抑制的方法,即每个神经元只抑制与自己临近的神经元,而对远离自己的神经元不抑制。
这种方法经常用于图象边缘处置,处置图象边缘的缺陷效果。
竞争型神经网络的缺陷和缺乏:由于它仅以输入层中的单个神经元代表某一类形式。
所以一旦输入层中的某个输入神经元损坏,那么招致该神经元所代表的该形式信息全部丧失。
2.2.3 Hopfield神经网络1986年美国物理学家J.J.Hopfield陆续宣布几篇论文,提出了Hopfield神经网络。
他应用非线性动力学系统实际中的能量函数方法研讨反应人工神经网络的动摇性,并应用此方法树立求解优化计算效果的系统方程式。
基本的Hopfield神经网络是一个由非线性元件构成的全衔接型单层反应系统。
网络中的每一个神经元都将自己的输入经过衔接权传送给一切其它神经元,同时又都接纳一切其它神经元传递过去的信息。
即:网络中的神经元t时辰的输入形状实践上直接地与自己的t-1时辰的输入形状有关。
所以Hopfield神经网络是一个反应型的网络。
其形状变化可以用差分方程来表征。
反应型网络的一个重要特点就是它具有动摇形状。
当网络到达动摇形状的时分,也就是它的能量函数到达最小的时分。
这里的能量函数不是物理意义上的能量函数,而是在表达方式上与物理意义上的能量概念分歧,表征网络形状的变化趋向,并可以依据Hopfield任务运转规那么不时停止形状变化,最终可以到达的某个极小值的目的函数。
网络收敛就是指能量函数到达极小值。
假设把一个最优化效果的目的函数转换成网络的能量函数,把效果的变量对应于网络的形状,那么Hopfield神经网络就可以用于处置优化组分解绩。
关于异样结构的网络,当网络参数(指衔接权值和阀值)有所变化时,网络能量函数的极小点(称为网络的动摇平衡点)的个数和极小值的大小也将变化。
因此,可以把所需记忆的形式设计成某个确定网络形状的一个动摇平衡点。
假定网络有M个平衡点,那么可以记忆M个记忆形式。
当网络从与记忆形式较接近的某个初始形状(相当于发作了某些变形或含有某些噪声的记忆形式,也即:只提供了某个形式的局部信息)动身后,网络按Hopfield任务运转规那么停止形状更新,最后网络的形状将动摇在能量函数的极小点。
这样就完成了由局部信息的联想进程。
Hopfield神经网络的能量函数是朝着梯度减小的方向变化,但它依然存在一个效果,那就是一旦能量函数堕入到局部极小值,它将不能自动跳出局部极小点,抵达全局最小点,因此无法求得网络最优解。
3 遗传算法遗传算法〔Genetic Algorithms〕是基于生物退化实际的原理开展起来的一种广为运用的、高效的随机搜索与优化的方法。
其主要特点是群体搜索战略和群体中集体之间的信息交流,搜索不依赖于梯度信息。
它是在70年代初期由美国密执根〔Michigan〕大学的霍兰〔Holland〕教授开展起来的。
1975年霍兰教授宣布了第一本比拟系统论述遗传算法的专著«自然系统与人工系统中的顺应性»〔«Adaptation in Natural and Artificial Systems»〕。
遗传算法最后被研讨的动身点不是为专门处置最优化效果而设计的,它与退化战略、退化规划共同构成了退化算法的主要框架,都是为事先人工智能的开展效劳的。
迄今为止,遗传算法是退化算法中最广为人知的算法。
近几年来,遗传算法主要在复杂优化效果求解和工业工程范围运用方面,取得了一些令人信服的结果,所以惹起了很多人的关注。
在开展进程中,退化战略、退化规划和遗传算法之间差异越来越小。
遗传算法成功的运用包括:作业调度与排序、牢靠性设计、车辆途径选择与调度、成组技术、设备布置与分配、交通效果等等。
3.1 特点遗传算法是处置搜索效果的一种通用算法,关于各种通用效果都可以运用。
搜索算法的共同特征为:①首先组成一组候选解;②依据某些顺应性条件测算这些候选解的顺应度;③依据顺应度保管某些候选解,坚持其他候选解;④对保管的候选解停止某些操作,生成新的候选解。