编号:审定成绩:重庆邮电大学毕业设计(论文)设计(论文)题目:基于遗传算法的BP神经网络的优化问题研究学院名称:学生姓名:专业:班级:学号:指导教师:答辩组负责人:填表时间:2010年06月重庆邮电大学教务处制摘要本文的主要研究工作如下:1、介绍了遗传算法的起源、发展和应用,阐述了遗传算法的基本操作,基本原理和遗传算法的特点。
2、介绍了人工神经网络的发展,基本原理,BP神经网络的结构以及BP算法。
3、利用遗传算法全局搜索能力强的特点与人工神经网络模型学习能力强的特点,把遗传算法用于神经网络初始权重的优化,设计出混合GA-BP算法,可以在一定程度上克服神经网络模型训练中普遍存在的局部极小点问题。
4、对某型导弹测试设备故障诊断建立神经网络,用GA直接训练BP神经网络权值,然后与纯BP算法相比较。
再用改进的GA-BP算法进行神经网络训练和检验,运用Matlab软件进行仿真,结果表明,用改进的GA-BP算法优化神经网络无论从收敛速度、误差及精度都明显高于未进行优化的BP神经网络,将两者结合从而得到比现有学习算法更好的学习效果。
【关键词】神经网络BP算法遗传算法ABSTRACTThe main research work is as follows:1. Describing the origin of the genetic algorithm, development and application, explain the basic operations of genetic algorithm, the basic principles and characteristics of genetic algorithms.2. Describing the development of artificial neural network, the basic principle, BP neural network structure and BP.3. Using the genetic algorithm global search capability of the characteristics and learning ability of artificial neural network model with strong features, the genetic algorithm for neural network initial weights of the optimization, design hybrid GA-BP algorithm, to a certain extent, overcome nerves ubiquitous network model training local minimum problem.4. A missile test on the fault diagnosis of neural network, trained with the GA directly to BP neural network weights, and then compared with the pure BP algorithm. Then the improved GA-BP algorithm neural network training and testing, use of Matlab software simulation results show that the improved GA-BP algorithm to optimize neural network in terms of convergence rate, error and accuracy were significantly higher than optimized BP neural network, a combination of both to be better than existing learning algorithm learning.Key words:neural network back-propagation algorithms genetic algorithms目录第一章绪论 (1)1.1 遗传算法的起源 (1)1.2 遗传算法的发展和应用 (1)1.2.1 遗传算法的发展过程 (1)1.2.2 遗传算法的应用领域 (2)1.3 基于遗传算法的BP神经网络 (3)1.4 本章小结 (4)第二章遗传算法 (5)2.1 遗传算法基本操作 (5)2.1.1 选择(Selection) (5)2.1.2 交叉(Crossover) (6)2.1.3 变异(Mutation) (7)2.2 遗传算法基本思想 (8)2.3 遗传算法的特点 (9)2.3.1 常规的寻优算法 (9)2.3.2 遗传算法与常规寻优算法的比较 (10)2.4 本章小结 (11)第三章神经网络 (12)3.1 人工神经网络发展 (12)3.2 神经网络基本原理 (12)3.2.1 神经元模型 (12)3.2.2 神经网络结构及工作方式 (14)3.2.3 神经网络原理概要 (15)3.3 BP神经网络 (15)3.4 本章小结 (21)第四章遗传算法优化BP神经网络 (22)4.1 遗传算法优化神经网络概述 (22)4.1.1 用遗传算法优化神经网络结构 (22)4.1.2 用遗传算法优化神经网络连接权值 (22)4.2 GA-BP优化方案及算法实现 (23)4.3 GA-BP仿真实现 (24)4.3.1 用GA直接训练BP网络的权值算法 (25)4.3.2 纯BP算法 (26)4.3.3 GA训练BP网络的权值与纯BP算法的比较 (28)4.3.4 混合GA-BP算法 (28)4.4 本章小结 (31)结论 (32)致谢 (33)参考文献 (34)附录 (35)1 英文原文 (35)2 英文翻译 (42)3 源程序 (47)第一章绪论1.1 遗传算法的起源从生物学上看,生物个体是由细胞组成的,而细胞则主要由细胞膜、细胞质、和细胞核构成。
在细胞核中,有一种微小的丝状化合物,称为染色体,染色体由许多基因片段组成,基因是生物遗传物质的载体,决定了生物的各种遗传性状,是遗传的基本单位。
生物个体在交配繁殖时,正是将这些基因遗传给了后代,才使后代具有父代的生物特征。
由于生物在繁殖中可能发生基因交叉和变异,这种交叉和变异引起了生物性状的连续微弱变化,为外界环境的定向选择提供了物质条件和基础,使生物的进化成为可能。
人们正是通过对环境的选择、基因的交叉和变异这一生物演化的迭代过程的模仿,从而提出了能够用于求解最优化问题的具有强鲁棒、自适应的遗传算法。
遗传算法[1](Genetic Algorithms,简称GA)是模拟自然界生物进化这一“适者生存,优胜劣汰”过程而得到的,是由Michigan大学Holland教授于1975年首次提出的,它的基本算法力求充分模仿这一自然寻优过程的随机性、鲁棒性和全局性,这是一种新的全局优化搜索算法,因为它直接对结构对象进行操作,不存在求异和函数连续性的限定,鲁棒性强,具有随机性和全局性,适于并行处理,已广泛应用于神经网络、计算机科学、优化调度、运输问题、组合优化、机器学习、信号信息、自适应控制和人工生命领域。
1.2 遗传算法的发展和应用1.2.1 遗传算法的发展过程1965年,美国Michigan大学的John Holland教授在设计人工适应系统中开创性地使用了一种基于自然演化原理的搜索机制,并于1975年出版了著名的专著“Adaptation in Natural and Artificial Systems”,这些有关遗传算法的基础理论为遗传算法的发展和完善鉴定了基础。
同时,Holland教授的学生Dejong首次将遗传算法应用于函数优化中,设计了遗传算法执行策略和性能评价指标,他挑选的5个专门用于遗传算法数值实验的函数至今仍被频繁使用,而他提出的在线和离线指标则仍是目前衡量遗传算法优化性能的主要手段。
在Holland教授和他的学生与同事Dejong进行大量有关遗传算法的开创性工作的同时,德国柏林工业大学的Rechenberg和Schwefel等在进行风洞实验时,为了对描述物体性状的参数进行优化以获得更好的实验数据,将变异操作引入计算模型中,获得了意外的优良效果,实验后,经过进一步系统地研究,形成了进化策略(Evolutionary Strategies,ES)。
1962年,Fogel等人在设计有穷状态自动机(Finite State Machine, FSM)时借用进化和思想对一组FSM进行进化,提出了一种模仿人类智能的方法,称为进化编程(Evolutionary Programming, EP),随后将其应用于数值优化及神经网络的训练问题中。
这两种算法和遗传算法以及遗传编程(Genetic Programming, GP)一起构成了目前进化计算的四大分支,它们从不同层次、不同角度模拟自然演化的规律,以达到求解实际问题的目的。
20世纪80年代开始,遗传算法进入了兴旺发展时期。
有关遗传算法的国际会议在世界各地定期召开。
遗传算法被提出之后立即受到了各国学者的广泛关注,有关遗传算法的研究成果不断涌现。
1981年Bethke应用Walsh函数分析模式;1983年Welzel用遗传算法解决了NP难问题旅行问题(TSP);1985年Schaffer利用多种群遗传算法研究解决了多目标优化问题。
1985年在美国卡耐基·梅隆大学召开的第一届国际遗传算法会议ICGA’95,以后该会议每隔一年举行一次。
1997年夏季在美国密歇根大学召开了ICGA’97。
现在与之平行的国际会议很多,其中有International Conference on Evolutionary Programming和IEEE International Conference on Evolutionary Computation也分别召开了有关遗传算法的会议。
此外,每年夏季在美国斯坦福大学召开有关遗传算法程序设计的国际会议(The Annual Conference of Genetic Programming)。
有关遗传算法的学术活动也经常举行,相关的国际学术会议还有很多。
1.2.2 遗传算法的应用领域遗传算法的应用领域很广,主要应用在以下几个方面:(1)、控制瓦斯管道控制,防避导弹控制,机器人控制。
(2)、规划生产规划,并行机任务分配。