径向基函数神经网络模型与学习算法
1985年，Powell提出了多变量插值的径向基丙数(Radical Basis Function,
RBF)方法。1988 年，Moody 和 Darken 提出 了一种神经网 络结构，即RBF
神经网络，属于前向神经网络类型，它能够以任意 精度逼近任意连续函数，
特别适合于解决分类问题。
RBF
网络的结构与多层前向网络类似，它是一种三层前向网络。 输入
层由信号源结点组成；第二层为隐含层，隐单元数视所描述问题 的需要而定，
隐单元的变换函数RBFO是对中心点径向对称且衰减 的非负非线性函数；第
三层为输出层，它对输入模式的作用作出响应。 从输入空间到隐含层空间的
变换是非线性的，而从隐含层空间的输出 层空间变换是线性的。
RBF网络的基本思想是：用RBF
作为隐单元的“基”构成隐含 层空间，
这样就可以将输入矢量直接(即不需要通过权接)映射到隐 空间。当RBF的
屮心点确定以后，这种映射关系也就确定了。而隐 含层空间到输出空间的映
射是线性的，即网络的输出是隐单元输出的 线性加权和。此处的权即为网络
可调参数。由此可见，从总体上看， 网络市输入到输出的映射是非线性的，
而网络输出对叮调参数而言却 又是线性的。这样网络的权就可由线性方程直
接解岀，从而大大加快 学习速度并避免局部极小问题。
1.1RBF
神经网络模型
径向基神经网络的神经元结构如图1所示。径向基神经网络的激 活函数
采用径向基函数，通常定义为空间任一点到某一中心之间欧氏 距离的单调函
数。由图1所示的径向基神经元结构可以看出，径向基 神经网络的激活函数
是以输入向量和权值向量之间的距离||dist||作为 自变量的。径向基神经网络的
激活函数的一般表达式为
/?(||dist||)= e~yist^ (1)
图1径向基神经元模型
随着权值和输入向量之间距离的减少，网络输出是递增的，当输 入向量
和权值向量一致时，神经元输出1。在图1中的b为阈值， 用于调整神经元
的灵敏度。利用径向基神经元和线性神经元可以建立 广义回归神经网络，该
种神经网络适用于函数逼近方面的应用；径向 基神经元和竞争神经元可以组
建概率神经网络，此种神经网络适用于 解决分类问题。
由输入层、隐含层和输岀层构成的一般径向基神经网络结构如图 2所示。
在RBF网络中，输入层仅仅起到传输信号的作用，与前面所 讲述的神经网络
相比较，输入层和隐含层之间可以看做连接权值为1 的连接。输出层和隐含层
所完成的任务是不同的，因而它们的学习策 略也不相同。输岀层是对线性权
进行调整，采用的是线性优化策略。 因而学习速度较快。而隐含层是对激活
函数(格林函数或高斯函数， 一般取高斯)的参数进行调整，采用的是非线性
优化策略，因而学习 速度较慢。
1.2 RBF
网络的学习算法
RBF神经网络学习算法需要求解的参数有3
个：基函数的中心、 方差
以及隐含层到输出层的权值。根据径向基函数中心选取方法的不 同，
RBF
网络有多种学习方法，如随机选取中心法、自组织选取中心 法、有监督选
取中心法和正交最小二乘法等。下面将介绍口组织选取 屮心的RBF神经网
络学习法。此方法由两个阶段组成：一是自组织 学习阶段，此阶段为无导
师学习过程，求解隐含层基函数的中心与方 法；二是有导师学习阶段，此
阶段求解隐含层到输出层之间的权值。
径向基神经网络中常用的径向基函数是高斯函数，因此径向基神
经网络的激活函数可表示为
高斯函数的屮心。
° 咼斯函数的方斧
O
由图2的径向基神经网络的结构可得到网络的输出为
f
1
2
、
< 2
CT
2
c
i
/
h
为
e“exp
(2)
式中
||xp-5
欧式范数。
式中 © =6"'对,…，圮;） ---------- 第P个输入样本。
P = 12…,P ---------- P
表示样本总数。
网络隐含层结点的中心。
-隐含层到输出层的连接权值。
------ 隐含层的节点数。
儿 ------- 与输入样本对应的网络的第j个输出结点的实
际输出。
设d是样本的期望输出值，那么基函数的方差可表示为
2
J却厂y
用|
学习算法具体步骤如下:
1. 基于K■均值聚类方法求解基函数屮心c
1） 网络初始化：随机选取力个训练样本作为聚类中心G（心12…
屈
2）
将输入的训练样本集合按最近邻规则分组：按照州与中心为°，之
间的欧式距离将©分配到输入样本的各个聚类集合色"i，2,…,P）中。
3）
重新调整聚类中心：计算各个聚类集合％中训练样本的平均值,
即新的聚类中心如果新的聚类中心不再发牛•变化，则所得到的5
即为RBF神经网络最终的基函数中心，否则返回2）,进入下一轮的
中心求解。
2.
求解方差6
该RBF神经网络的基函数为高斯函数，因此方差5可由下式求
解：
(4)
式中
C
max --------------所选取中心之间的最大距离o
3 •计算隐含层和输出层Z
间的权值
隐含层至输出层之间神经元的连接权值可以用最小二乘法直接
计算得到，计算公式如下:
h
①=exp 丁 ",
\
"max