当前位置:文档之家› 前向多层人工神经网络.ppt

前向多层人工神经网络.ppt


• 例如:看到柠檬,感觉到嘴里口水增多。因为,由柠檬联想到了酸味。 • 字符识别:
2006-09-14

➢ 再论模式识别:对表征事物或现象的各种形式的(数值的、文字的或逻 4

辑的)信息进行处理和分析,以对事物或现象进行描述、辨认、分类和 解释的过程称为“模式识别”,是信息科学和人工智能的重要组成部分。 ❖ 人在分辨不同类别的事物时,抽取了同类事物之间的相同点以及不

➢ 前项人工神经网络的拓扑结构
8 页
➢ 前层的输出作为后层的输入;
➢ 各层的神经元个数可以不同;
➢ 层数两层以上,目前大多为3层;
➢ 同层神经元不能连接,后层不 能向前层反向连接;
2. 给定未值模式,判断该样本所属类别,称为“工作”或“应用”。
✓ 以上所特说征的选“择学的习好”坏是或模“式训识练别”成,败是的根关据键若,干但已如知何样选本择在“空特间征找”到,合即,
适选的择分什类么面物。理对量于作一为个特样征本,X是i,具体用专yi表业示“它领所域属”的的类问别题,,例需如要,运它用属“于领 第域k”类的。专则业样知本识已来知解,决意。味着{Xi , yi}已知。这种“学习”又称为“有

第二讲 前向多层人工神经网络
1 页
§ 2.1 概 述
➢ ANN的主要功能之一 —— 模式识别 ( Pattern Recognition )
模式识别是人类的一项基本智能行为,在日常生活中,我们几乎 时刻在进行着“模式识别”。
✓模式: • 广义地说,存在于时间和空间中可观察的事物,如果可以区别它们是 否相同或相似,都可以称之为模式;
2006-09-14

➢ 模式识别,举例:水果分级系统。
2 页
水果品质参数:重量、大小、比重、果形、颜色等
特征矢量:X = [x1, x2, x3, x4, x5]
特征空间:用参数张成。 模式:每个苹果为一个模式,其特征矢量
为特征空间中的一个点; 模式类:一个级别为一个类,一类模式分
布在特征空间的某个特定区域; 模式识别:找出各类之间的分界面。
2006-09-14

➢ ANN的主要功能之二 —— 联想 ( Associative Memory )
3 页
联想的心理学定义:
当一个事物的表象被激活时,也就是说该表象所包含的若干属性单元同时 有效时,我们的注意力焦点就集中在这个表象上,如果对该表象的处理使的 表象被否决时,也就是说由于一些属性单元的失效(或被抑制,或处于高 阻),导致该表象无法成立的时候,剩余的属性单元或许可以构成另一种事 物的表象,或许还需要结合那些被激活了的新的属性(或是由外界事物具有 的新的属性所激活,或是因降低了对一些属性的抑制所导致的激活)。
监督”例学如习,,语即音,识给别出,学如习何样从本自同然时语还音指中定提了取它“的特类征别”。,是语音识别的
✓ 所专 域谓业的“问问工题题作;,”图即,象使则识在是别图给,象出如 处未何 理知从 领类C域C别,D的不图样同象本应获X用取i 目,适的问当所y的i 取等特的于征特多,征少是也。图不显象同然处。X理i来领 自于对模客式观识对别象的的全时过间程观,测应,该其包取括值特无征法提事取先阶限段定。。但但是表,示我y们i类这别里,将取要
• 狭义地说,模式是通过对具体的个别事物进行观测所得到的具有时间和 空间分布的信息;
✓ 模式类:把模式所属的类别或同一类中模式的总体称为模式类(或简称为类);
✓ 模式识别:—在—一对定表量征度事或物观或测现基象础的上各把种待形识式模的式(划数分值到的各,自文的字模的式和类逻中辑去 的关过 系程的叫)作信模息式进识行别处;理和分析,以对事物或现象进行描述、辨认、分类和 解释的过程,是信息科学和人工智能的重要组成部分。
称为第程i个。样本,或者第i个样本的特征矢量。 特征空间:即特征矢量张成的空间,每个样本对应于特征空间上的一点。
2006-09-14

✓ 模式类:特征参数选择合理时,不同类的模式,在特征空间中占据不
5 页
同的分布区域;
✓ 模式识别所要做的事情,包含两个方面:
1. 在不同类别样本点集之间,寻找合理的分界面,或称作“判别函数 (Decision Function)” —— 因为判别函数来自于实际观测数据, 因此称此阶段为 “学习” 或 “训练” ;
均为数景 做值物“。,正表判确示断”成所和特选“征择不矢的正量路确形线”式是的:否分X正i类=确判[。断x实i1。,际xi上2, ,xi是3, 对xi4眼, x睛i5看];到的图象 样本:人对脑一的个这具种体思对维象能进力行就观构测成得了到“的模一式个”特的征概矢念量和称“为模一式个识“别样”本的”过, Xi
值讲是到离的散有的关、智有能限方的法,,事都先只主涉观及规到定特的征。提取之后的工作。
2006-09-14

6
➢ 神经元模型

▪ 神经元的输入:
X x0 x1 xN1
▪ 所完成的运算为:
Net
W
XT
N-1
wi xi
i0
y f Net
式中: W w0 w1 wN1 称为神经元的“权值矢量”; f • 称为神经元的“功能函数”;
同类事物之间的不同点;
模式是和类别(集合)的概念分不开的,只要认识这个集合的有限数量的事物
或现象,就可以识别这个集合中的任意多的事物或现象。为了强调能从具体的 事物或字现符象识中别推:断例出如总汉体字,“我中们”就可把以个有别各的种事写物法或,现但象都称属作于“同模一式类”别,。而把总 体称作更类为别重或要范的畴是。,即使对于某个“中”的具体写法从未见过,也能把 特征矢它量分:到最“简中单”的这情一况类是别用。一组称为“特征参数”的数值信息表示一个客观 对象。识例别如目,标水:果人品们质走分向类一中个用目到的的地大的小时、候重,量总、是比在重不、断果的型观、察颜周色围,的其取值
2006-09-21
Net 称为神经元的“净输入”; y 称为神经元的“输出”;

7
➢ 常用的神经元功能函数类型

▪ 线性函数 f u u 又称为“恒同函数”
▪ 硬限幅函数
1, u 0 fh [u] 0, u 0
▪ S函数(Sigmoid)
f
s
ቤተ መጻሕፍቲ ባይዱ
[u
]
1
1 e
u
u取值于[0,1]之间。
2006-09-14
相关主题