当前位置:
文档之家› 第五讲 人工神经网络评价方法
第五讲 人工神经网络评价方法
BP网络:
使用BP算法进行学习的多级非循环网络。
20
利用BP网络进行评价的优点
它主要根据所提供的数据,通过学习和训练,找出输入与 输出之间的内在联系,从而求取问题的解。而不是依据 对问题的经验知识和规则,因而具有自适应功能,这对于 弱化权重确定中人为的因素是十分有益的。 能够处理那些有噪声或不完全的数据,具有泛化功能和 很强的容错能力。 由于实际综合评估往往是非常复杂的,各个因素之间互 相影响,呈现出复杂的非线性关系,人工神经网络为处理 这类非线性问题提供了强有力的工具
ANq
ANh ANp wpm,δmk
第k-2层
第k-1层
第k 层
25
隐藏层权的调整
pk 1 f k1 (nepp )(wp11k wp 2 2 k ... wpm mk )
vhp o pk 1 (1 o pk 1 )(wp11k wp 2 2 k ... wpm mk )o pk 2
主要内容
1. 人工神经网络基础知识 2. BP网络及BP算法 3. 实例演示
2
一、人工神经网络的概念
人工神经网络是一个并行、分布处理结构,它由处理单元 及连接的无向信号通道互联而成。这些处理单元具有局部 内存,并可以完成局部操作。 每一个处理单元有一个单一的输出联接,这个输出可以根 据需要被分成希望个数的许多并行联接,且这些并行联接 的输出相同的信号及相应的处理单元的信号,信号的大小 不因分支的多少而变化。 处理单元的输出信号可以是任何需要的数学模型,每个处 理单元中进行的操作必须是完全局部的。也就是说,它必 须仅仅依赖于经过输入连接到达处理单元的所有输入信号 的当前值和存储在处理单元局部内存中的值。
21
基本BP算法
神经元 激活函数 网络输入:netj=x1w1+x2w2+......+xnwn
输出
1 o f (net) 1 e net f (net) o(1 o)
net=0时,o取值0.5,net落在(-0.6,0.6)之间,o的变化率较大,收敛 比较快,应把net控制在这个范围内。
neti=∑xiwi
net=XW
网络输入
6
激活函数
希望人工神经元有一个更一般的变换函数,用来执行 该神经元所获得的网络输入的变换,这就是激活函数。 o=f(net) 几种典型的激活函数:
7
几种典型的激活函数
1.线性函数:
f (net) k net c
net≥θ f ( net) k net -θ <net< θ net≤-θ
2.非线性斜面函数:
3.阶跃函数:
f (net)
net>θ net≤θ
8
几种典型的激活函数
4.S型函数
b f (net) a 1 exp(d net)
其中,当a=0,b=1时为函数最简单形式,饱和值为: 0,1
9
联接模式
层内联接:
本层内的神经元到本层内的神经元的联接,用来 加强和完成层内神经元的竞争。
循环联接:
神经元到自身的联接
层间联接:
不同层间中的神经元的联接,实现信号的传递
10
分层结构
单级网
简单单级网: 下面以简单单级网为例,说明神经网络的分层 结构,其余形式据此可理解。 网络输入向量:X=(x1,x2,...,xn) 网络输出向量:O=(o1,o2,...,on) 输入层的神经元不对信号做任何处理,只起 到扇出作用
16
有导师学习
在训练中,要求用户在给出输入向量的同时,给 出对应的输出向量,二者构成一个训练对。 主要步骤:
从样本集合中取一个样本(Ai,Bi) 计算出实际输出O 求D=Bi-O 根据D调整权矩阵W 每个样本重复这个过程,直到误差不超过规定范围
17
Delta规则
Wij (t 1) Wij (t ) ( yi o j (t ))oi (t ) Wij (t 1) Wij (t ) Wij (t ) Wij (t ) j oi (t )
1.0 0.2 Yi Xi X i M X im
30
指标体系的构成
• 财务效益状况
• • • • 净资产收益率 总资产收益率 资本保值增值率 成本费用利润率
• 资产运营状况
• • • • 总资产周转率 流动资产周转率 存货周转率 应收账款周转率
• 偿债能力状况
• • • • 资产负债率 产权比率 速动比率 现金流动负债比率
• 发展能力状况
• • • • 销售增长率 资本积累率 总资产增长率 固定资产成新率
31
32
评价结果分析
应用BP网络通过对本企业历史数据的训练, 利用训练好的网络可以简便有效地评价企业当 期各个方面的评价值,进而得出企业整体效绩大 小。在实际操作中,通过评价标准大小的选取, 比如选择行业优秀值,可以进行同类企业的横向 比较,看出在市场竞争中企业的整体优劣状况和 效绩排名。
j yi oi (t )
18
异或问题
异或运算
0 x=y g x, y 其他 1
19
BP算法基本概念
BP算法:
在于利用输出层的误差来估计输出层的直接前导层的 误差,再用这一误差估计更前一层的误差,这就形成 了将输出端表现出的误差沿着与输入信号传送的方向 逐级向网络的输入端传递的过程。
26
基本BP算法
for h=1 to M do 初始化W(h); 初始化精度控制参数ε E= ε+1 While E> ε do E=0; 对S中的每一个样本(Xp, Yp): 计算出Xp对应得的实际 输出Op; 计算出Ep; E=E+Ep; 调整W(M); h=M-1; while h≠0 do 调整W(h); h=h-1 E=E/2.0
22
网络的拓扑结构
输入向量、输出向量的维数及隐藏层层数,隐 藏层神经元数由问题决定。 多数情况下,BP网络选用二级网络
训练过程
向前传播阶段:从样本集中取一个样本(Xp,Yp),将 Xp输入网络;计算相应的实际输出Op 向后传播阶段:计算实际输出与相应的理想输 出的差;按最小化误差的方式调整权矩阵
23
3
人工神经网络的八个要素
一组处理单元 处理单元的激活状态
输出函数 联接模式 传递规则 激活规则 习规则 样本集合
4
模型图
w1i Neti=∑xjwji w2i … wni ai=Fi(ai,neti) oi=f(ai)
5
人工神经元
基本构成
对每一个神经元来说都会接受一组输入信号,每个输入 信号都对应一个权,所有输入的加权和决定该神经元的激 活状态。 设:X=(x1,x2,...,xn) 输入向量 W=(w1,w2,...,wn) 联接权向量
27
BP学习算法
基本思路:按照Delta规则,对各层权进行调 整,从而使精度要求满足∑Ep<ε 其中,Ep满足公式:
2 Ep 1 ( y o ) pj pj 2 j 1 m
28
几个问题的讨论
收敛速度问题 局部极小点问题 网络瘫痪问题 稳定性问题 步长问题
29
基于BP神经网络的企业效绩综合评价
11
简单单级网的网络图
x1 o1 x2 o2
......
xn on 输入层 输出层
12
简单单级网
权矩阵:W=(wij) 输出层第j个元素的网络输入为netj netj=x1w1j+x2w2j+......+xnwnj NET=(net1, net2,....., netm) NET=XW O=F(NET)
误差传播分析
输出层权的调整
w pq w pq w pq w pq q oq
q f n(netq )( yq oq )
f n(netq ) oq (1 oq ) w pq oq (1 oq )( yq oq )o p
24
隐藏层权的调整
wp1,δ1k vhp, δpk-1 wp2,δ2k
13
分层结构
单级横向反馈网 多极网
层次划分 非线性激活函数
循环网
14
人工神经网络的训练
训练:将由样本向量构成的样本集合输入 到人工神经网络的过程中,按照一定方式 调整神经元之间的联接权,使得网络在接 受输入时可以给出适当的输出。
15
无导师学习
不需要目标,训练集中只含有输入向量, 训练算法致力于修改权矩阵,使网络对相 似输入可以给出相似的输出。
33
建立系统的评价指标体系:然后才能采用适当的方法 进行评价。根据评价的全面性和可比性原则,企业效绩 主要从财务效益状况、资产营运状况、偿债能力状况 以及发展能力状况4个方面来全面综合考核企业绩效
评价值和综合评价得分的获得方法:参照财政部颁布 的大型普通机械制造业各指标的最优和较差标准值。 各评价指标的标准值的计算: