科技信息 2011年第 3期 SCIENCE &TECHNOLOGY INFORMATION人工神经网络是模仿生理神经网络的结构和功能而设计的一种信息处理系统。
大量的人工神经元以一定的规则连接成神经网络 , 神经元之间的连接及各连接权值的分布用来表示特定的信息。
神经网络分布式存储信息 , 具有很高的容错性。
每个神经元都可以独立的运算和处理接收到的信息并输出结果 , 网络具有并行运算能力 , 实时性非常强。
神经网络对信息的处理具有自组织、自学习的特点 , 便于联想、综合和推广。
神经网络以其优越的性能应用在人工智能、计算机科学、模式识别、控制工程、信号处理、联想记忆等极其广泛的领域。
1986年 D.Rumelhart 和 J.McCelland [1]等发展了多层网络的 BP 算法 , 使BP 网络成为目前应用最广的神经网络。
1BP 网络原理及学习方法BP(BackPropagation 网络是一种按照误差反向传播算法训练的多层前馈神经网络。
基于 BP 算法的二层网络结构如图 1所示 , 包括输入层、一个隐层和输出层 , 三者都是由神经元组成的。
输入层各神经元负责接收并传递外部信息 ; 中间层负责信息处理和变换 ; 输出层向外界输出信息处理结果。
神经网络工作时 , 信息从输入层经隐层流向输出层 (信息正向传播 , 若现行输出与期望相同 , 则训练结束 ; 否则 , 误差反向进入网络 (误差反向传播。
将输出与期望的误差信号按照原连接通路反向计算 , 修改各层权值和阈值 , 逐次向输入层传播。
信息正向传播与误差反向传播反复交替 , 网络得到了记忆训练 , 当网络的全局误差小于给定的误差值后学习终止 , 即可得到收敛的网络和相应稳定的权值。
网络学习过程实际就是建立输入模式到输出模式的一个映射 , 也就是建立一个输入与输出关系的数学模型 :x i (t +1 =f i [u i (t +1 ](1 标准的 BP 算法是一种梯度下降学习算法 , 其权值的修正是沿着误差性能函数梯度的反方向进行的。
这种算法可以写成公式 (2 的形式 :x k +1=xk -a 鄣 E kk(2 E k ≈ 1/s 2s 2i =1Σ(t i 2-y i 2 (3 其中 x k 为第 k 次迭代各层之间的权值和阈值向量 , E k 为第 k 次迭代神经网络的输出总误差 , 鄣 E k /鄣 x k 为第 k 次迭代总误差曲面的梯度 , a 为学习速率。
网络的实际输出值 y j 与要求的目标值 t j 由公式 (3 求出总误差 , 带入公式 (2 中 , 便可以逐次修正权值及阈值 , 并使总误差向减小的方向变化 , 直到达到要求的误差性能为止。
图 1两层 BP 网络神经模型 2BP 算法实现苹果颜色分级苹果表面颜色是衡量苹果品质的重要特征 , 同时间接反映了苹果的成熟度、糖度、水分含量等内部品质。
国内外的研究者在水果颜色检测方面做了很多工作。
Tao 等利用色度特征统计识别算法完成了对苹果、土豆的颜色分级 [2]; 杨秀坤等用遗传神经网络方法实现苹果颜色自动检测 [3]; 李庆中等基于遗传神经网络实现苹果颜色实时分级 [4]。
本实验选用红富士苹果为研究对象 , 通过计算机视觉技术获取苹果色度直方图 , 直方图反映了苹果表面颜色组成情况 , 以此提取颜色特征参数。
实验选取 70个不同等级的苹果样本 , 分别用人工检测和神经网络检测的方法进行分级。
人工检测结果为 15个优等果、 25个一等果、21个二等果和 9个等外果。
保证样本具有足够的代表性和全面性。
提取所有样本的七个色度特征值 , 分别除以 1000作为实际输入网络的样本数据 , 因此神经网络的输入层节点数为 7; 采用两层网络 , 隐含层定义 10个节点 ; 输出层输出数据为 (1000、(0100、(0010、(0 001, 分别代表苹果的四个等级 :优等、一等、二等和等外。
任选 55个苹果样本信息训练 BP 网络 , 15个样本作为检验集。
交换训练集和检验集样本 5次进行重复实验 , 经过训练的网络实际输出苹果等级与人工检测的苹果等级的相关性达到 0.9以上。
表 1为其中一种情况下检验集 15个苹果样本中的 5个样本信息 , 表 2为对应的网络检测分级结果和人工分级结果的对照图。
训练的收敛误差取 0.001, 最大迭代次数为 5000次。
训练网络的误差演化曲线见图 2。
在达到最大迭代次数的时候 , 实际误差已经为 0.001, 网络已经达到训练目的。
图 2误差演化曲线表1待分级苹果颜色特征数据(下转第 418页人工神经网络 BP 算法简介及应用侯瑞(南京航空航天大学金城学院江苏南京 211156【摘要】 BP 网络是当前工程应用最广泛的一种人工神经网络。
本论文主要介绍 BP 算法及 BP 网络的原理 , 并结合一个苹果分级的实例具体说明 BP 网络的应用。
本研究具有一定的实用价值。
【关键词】神经网络 ; BP 网络 ; 苹果分级Introductions and Applications of BP Artificial Neutral NetworkHOU Rui(JinchengInstitute, Nanjing University of Aeronautics and Astronautics, Nanjing Jiangsu, 211156, China【 Abstract 】 Error Back Propagation (BPwas the most widely used method of Artificial Neutral Networks in the applications of modern projects . This study mainly introduced BP arithmetic and BP Networks . An apples ’ sorting instance trained by BP Networks was used to show its function . The research brought forward new theories for further development of practical fruit sorting system based on ANN .【 Key words 】 Neutral Works ; BP Networks ; Apple grading编号 c1c2c3c4c5c6c7 11.44640.89820.81460.43020.15820.00750.000020.16430.30240.57271.03380.58160.15670.000030.00080.12560.53240.33280.13750.07620.026840.00000.00000.02150.20330.64771.80630.000050.00000.00000.00000.00000.00000.77031.2932○ IT 论坛○75科技信息SCIENCE &TECHNOLOGY INFORMATION 2011年第 3期 (上接第 75页表 2网络、人工分级结果对照表3讨论神经网络的训练属于非线性的高复杂度的优化问题。
BP 网络的算法简单、可塑 , 寻优比较精确 , 三层网络已经能够以任意精度模拟复杂的非线性关系 , 二层网络就足以实现任意判决分类的问题。
本文通过对苹果颜色进行分级的实验表明 , BP 算法在对问题的内部机理不甚了解或者不能用明确的数学模型表示的系统进行特征提取和预测的问题上表现出很好的优越性和自适应性。
传统的 BP 算法存在一些缺点 , 比如隐层节点数固定 , 联接权值进行学习 , 导致收敛速度较慢 ; 局部寻优的学习方法 , 易陷入局部极小和引起振荡效应 ; 网络中间层及神经元数目的选择无理论指导等。
基于这些缺点 , 近年来 BP 网络已经出现很多种改进算法 , 比如变步长法、引入动量项法、高斯消元法等。
随着人工神经网络在理论研究和实际应用中突飞猛进的发展 , 神经网络必将在更广泛的领域发挥更大的作用。
【参考文献】[1]周开利 , 康耀红 . 神经网络模型及其 MATLAB 仿真程序设计 [M].北京 :清华大学出版社 , 2006:1-90. [2]Tao Y, Heinemann P H et al. Machine vision for color inspection of potatoes and apples[J].Transactionof the ASAE,1995,38(5:1555-1561.[3]杨秀坤 , 陈晓光 . 用遗传神经网络方法进行苹果颜色自动检测的研究[J].农业工程学报 , 1997,13(2:173-176.[4]李庆中 , 汪懋华 . 基于遗传算法的苹果颜色实时分级方法 [J].中国图像图形学报 , 2000, 5(9:779-784.作者简介 :侯瑞 (1983—, 女 , 汉族 , 河南开封人 , 任职于南京航空航天大学金城学院实验中心 , 助教 , 2006.9-2009.1, 中国农业大学信息与电气工程学院 , 电子系 , 生物物理专业 , 硕士研究生 , 主要研究方向为信息检测理论及技术方面。
[责任编辑 :曹明明 ]编号网络输出网络分级结果人工分级结果11000一等一等 20100一等一等 30100一等一等 40010二等二等 50001等外等外●科(上接第 19页从表 2和图 2可以看出 , 低温阶段随着温度的升高 , 煤氧化生成的 CO 浓度逐渐增大 , 并且增大的幅度越来越大 ; CO 产生的临界温度滞后于开始消耗氧气的温度 ; CO 的这种产生特性是由低温阶段煤氧复合的内在反应特性所决定。
低温阶段煤氧复合过程依次发生物理吸附、化学吸附和化学反应 , 煤物理吸附氧发生煤体的空隙表面 , 对煤的结构没有影响 , 因此虽然不会有 CO 的产生 , 但是仍会有耗氧量 , 导致了 CO 产生的临界温度滞后于开始消耗氧气的温度 , 如柴里气煤、李一气肥煤、百善无烟煤 30度 ~40℃。
产生 CO 的临界温度随着煤变质程度的增大越来越高。
柴里气煤的 CO 临界温度在 40℃ , 李一气肥煤的CO 临界温度在 50℃ , 百善无烟煤的临界温度在 50℃。
自临界温度点开始煤氧复合进入以化学吸附为主导的阶段 , 并伴随有 CO 的产生。
化学吸附比物理吸附有更强的吸氧能力和氧化热 , 大大加速了煤氧化的进程 , 如图 2中 (c、 (d和 (e所示 , 临界温度点之后煤耗氧量出现跃升 , 进入加速耗氧阶段。