课程设计任务书课程名称:专业综合实验及设计题目:RBF神经网络模型及仿真设计学院:信息工程学院系:自动化专业:自动化班级:自动化062学号:6101206078学生姓名:肖哲民起讫日期:2010.1.06——2008.1.20指导教师:曾芸职称:系分管主任:审核日期:说明1.课程设计任务书由指导教师填写,并经专业学科组审定,下达到学生。
2.进度表由学生填写,交指导教师签署审查意见,并作为课程设计工作检查的主要依据。
3.学生根据指导教师下达的任务书独立完成课程设计。
4.本任务书在课程设计完成后,与论文一起交指导教师,作为论文评阅和课程设计答辩的主要档案资料。
目录1.课程设计目的 (3)2.课程设计题目描述和要求 (3)3.课程设计原理 (3)4.设计内容 (8)5.心得体会 (11)6.参考文献 (12)一、课程设计目的:1、综合运用所学课程的理论知识和实践知识进行仿真设计,培养学生理论与实际相结合能力,并使所学知识得到进一步巩固、加强和发展。
2、培养学生分析和解决仿真设计问题的能力,树立正确的设计思想,掌握仿真设计的基本方法和步骤,对仿真设计有个较全面的认识。
3、要求学生熟悉常见的人工神经网络的结构和特性,包括智能系统描述模型、人工神经网络方法的特点,并重点对RBF神经网络进行较全面的认识和了解,并能进行相关的模型及仿真设计。
二、课程设计题目描述和要求:1、题目描述:运用智能控制中所学到的理论知识以及查阅的相关文献资料为指导以MATLAB软件为工具独立完成RBF神经网络模型的建立及仿真设计。
2、设计要求:(1)RBF神经网络模型及原理。
(2)主要采用智能控制原理,实现RBF神经网络的建立,完成算法以及matlab程序的编辑以及仿真的相关图形。
三、课程设计原理:RBF(RBF-Radial Basis Function)神经网络是一种前馈式神经网络(Feedforward Neural Networks)。
前馈式神经网络是一种单方向层次网络模块,它包括输入层、输出层和中间隐层。
从学习的观点来看,前馈式神经网络是一种强有力的学习系统;从信息处理的观点来看,前馈式神经网络是一类信息“映射”处理系统。
由于前馈式神经网络具有通过样本学习完成任意空间映射的能力,即泛函逼近能力,所以它成为非线性系统建模、仿真和预测的主要工具,在信号系统、模式识别和智能控制中,前馈式神经网络是应用极广泛的模型。
RBF神经网络作为一种较特殊的前馈式神经网络是由J.Moody 和C.Darken在80年代末提出的一种神经网络,它是只具有单隐层的三层前馈网络。
由于它模拟了人脑中局部调整、相互覆盖接收域(或称感受野-Receptive Field)的神经网络结构,因此,RBF网络是一种局部逼近网络。
(2)RBF神经网络特点:RBF 网络作为一种性能良好的前馈式网络.作用函数为高斯基函数,相对于BP网络的作用函数为Sigmoid函数,其值在输入空间中无限大的范围内为非零值而言其值在输入空间中有限范围内为非零值,为全局逼近的神经网络而言,RBF神经网络是一种局部逼近的神经网络。
已证明RBF网络具有唯一最佳逼近的特性,且无局部极小。
且它能任意精度逼近任意连续函数。
RBF神经网络是只具有单隐层的三层前向网络,由于输入到输出的映射是非线性的,而隐含层空间到输出空间的映射是线性的,从而可以大大加快学习速度并避免局部极小问题。
如下图(1)所示为多输入单输出的RBF网络结构。
图(1)多输入单输出RBF网络结构(4)RBF神经网络的常见学习算法:①正交最小二乘法OLS。
这个算法是基于Gram—Schmidt正交化过程,若学习样本有n个,则网络初始化时隐层设为n个节点,以每个输入样本作为每个聚类的中心通过正交化运算,计算优化的隐层节点数.每做一次正交运算,记算一个能量值,随着运算次数的增加,网络的输出误差平方逐步减小到容许的精度范围内。
②梯度下降法。
RBF 神经网络的梯度下降训练方法与BP 算法训练多层感知器的原理类似,也是通过最小化目标函数实现对各隐节点数据中心、宽度和输出权值的学习。
(4)RBF 神经网络逼近:图2 RBF 神经网络逼近对象结构图RBF 神经网络逼近一对象的结构如上图所示:下面是基于梯度下降法分析RBF 神经网络逼近问题。
首先设定在RBF 网络结构中,X=[x 1,x 2,…x n ]T 为网络的输入向量。
设RBF 网络的径向基向量H=[h 1,h 2,…h j ..h m ]T ,其中h j 为高斯基函数:式中,网络的第j 个结点的中心向量为:C j =[c 1j ,c 2j …c ij …c nj ]T其中 i=1,2,…n。
设网络的基宽向量为:B=[b 1,b 2,…b m ]Tb j 为节点j 的基宽参数,且为大于零的数。
网络的权向量为:W=[w 1,w 2,…w m ]T .k 时刻RBF 网络的输出为: y m (k)=wh=w 1h 1+w 2h 2+…+w m h mmj bX jj ,2,1),2C -ex p(-h 22j ==设理想输出为y(k),则RBF 网络逼近的性能指标函数为: E(k)=[y(k)-y m (k)]2 /2根据梯度下降法,输出权、节点中心及节点基宽参数的迭代算法如下:(其中, 为学习速率, 为动量因子) 取RBF 网络的第一个输入为u (k ),即x 1=u (k ),则Jacobian 阵(即为对象的输出对控制输入的灵敏度信息)算法为:四、设计内容:(1)RBF 神经网络逼近仿真的对象选取:用RBF 网络对函数对象:y(k)=u(k)3+2)1(3)1(2-+-k y k y 逼近。
))2()1((---++=k w k w h y y ηw w j j j m j j α(k))-(k)(1)-(k (k)32j j jj m j b C X h w y y b -(k ))-(k )(=∆2))-(k -1)-(k (1)-(k (k)j j j j j b b b ηb b α+∆+=2-(k))-(k)(Δjji j j j m ji b c x h w y y c =2))-(k -1)-(k (1)-(k (k)ij ij ij ij ij c c c ηc c α++= Δηα∑=-=∂∂≈∂∂mj jj jj m b x c h w k u k y k u k y 1211)()()()(在该网络中,网络输入信号为两个,即u(k),y(k-1)。
网络初始权值及高斯函数参数初始权值可取随机值,也可通过仿真测试后获得。
(2)输入信号及相关参数的设定:输入信号为正弦信号:u(k)=0.5sin(2πt),采样时间为0.001s,网络隐层神经元个数取m=4,网络结构设定为2-4-1,网络的初始权值取随机值,高斯函数的初始值取C j=[0.5 0.5]T,B=[1.5 1.5 1.5 1.5]T。
网络学习参数ɑ=0.05, =0.5。
(3)使用matlab编辑仿真程序。
仿真程序如下:%RBF identificationclear all;close all;alfa=0.05;xite=0.5;x=[0,0]';b=1.5*ones(4,1);c=0.5*ones(2,4);w=rands(4,1);w_1=w;w_2=w_1;c_1=c;c_2=c_1;b_1=b;b_2=b_1;d_w=0*w;d_b=0*b;y_1=0;ts=0.001;for k=1:1:2000time(k)=k*ts;u(k)=0.50*sin(1*2*pi*k*ts);y(k)=u(k)^3+2*y_1/(3+y_1^2);x(1)=u(k);x(2)=y_1;for j=1:1:4h(j)=exp(-norm(x-c(:,j))^2/(2*b(j)*b(j)));endym(k)=w'*h';em(k)=y(k)-ym(k);for j=1:1:4d_w(j)=xite*em(k)*h(j);d_b(j)=xite*em(k)*w(j)*h(j)*(b(j)^-3)*norm(x-c(:,j))^2;for i=1:1:2d_c(i,j)=xite*em(k)*w(j)*h(j)*(x(i)-c(i,j))*(b(j)^-2);endendw=w_1+d_w+alfa*(w_1-w_2);b=b_1+d_b+alfa*(b_1-b_2);c=c_1+d_c+alfa*(c_1-c_2);yu=0;for j=1:1:4yu=yu+w(j)*h(j)*(c(1,j) -x(1))/b(j)^2;enddyu(k)=yu;y_1=y(k);w_2=w_1;w_1=w;c_2=c_1;c_1=c;b_2=b_1;b_1=b;endfigure(1);plot(time,y,'r',time,ym,'b');xlabel('time(s)');ylabel('y and ym');10figure(2);plot(time,y-ym,'r');xlabel('time(s)');ylabel('idengtification error');figure(3);plot(time,dyu,'r');xlabel('time(s)');ylabel('dyu');(4)仿真结果如下图所示:图3 RBF 网络辨识结果图4 RBF 网络辨识误差图5 Jacobian信息的辨识(5)仿真小结:RBF神经网络具有BP网络无法比拟的优点:全局优化、最佳逼近的性质,相对快速的学习方法,BP网络应用的局限性口益突显也使得RBF网络的应用越来越广泛。
应用RBF神经网络进行函数逼近学习速度快,网络性能好。
神经网络的输出与要求符合,仿真成功。
五、心得体会:回顾起在这整整半个月日子的课程设计,我感慨颇多,从理论到实践,我学到很多很多的东西,不仅巩固了以前所学过的知识,而且学到了很多在书本上所没有学到过的内容。
通过这次课程设计使我懂得了理论与实际相结合是很重要的,只有理论知识是远远不够的,只有把所学的理论知识与实践相结合起来,从理论中得出结论,才是真正的知识,才能提高自己的实际动手能力和独立思考的能力。
在设计11的过程遇到了各种各样的问题,同时在设计的过程中发现了自己的不足之处,发现对以前所学过的知识理解得不够深刻,掌握得不够牢固,通过这次课程设计,把以前所学过的知识重新温故,巩固和升华了所学的知识。