• 模式识别实际上包含了以下两个步骤：
– （1）特征提取和选择 – （2）决策分类
训练过程
信息 获取
数据预 处理
特征提 取
和选择
分类器设计
分类决 策
输出结 果
图11.1 模式识别系统的基本构成
数字图像处理
2. 常用的三种模式组合
(1) 模式矢量
• 1936年，Fisher论文提出判别式分析技术，通过 测量花瓣的宽度和长度识别三种不同类型的鸢 （yuan）尾属植物的花。
图11.3 (a) 阶梯结构 (b) 基于元素a和b的结构编码生成串描述…ababab…
(3) 树
• 树形结构 ——分层有序结构
• 树形表示法从上到下 的关系是“包含于”。
数字图像处理
数字图像处理
3. 模式识别的主要方法
• 统计模式识别
– 基于匹配的识别技术 – 统计学方法/决策论 – 抽取图像特征 – 矢量描述（定量描述）：x=(x1, x2,……, xn)T
xT(m im j)1 2(m im j)T(m im j)0
• 应用条件：各类均值间距比各类半径大许多时效果很好。
数字图像处理
(2) 分类器的训练
• 目的：确定划分类别的阈值。 • 一般做法：用一组已知的对象训练分类器。训
练集由每个类别中已被正确识别的一部分对象 组成。 • 训练分类器的规则：
– 简单的：将分类错误的总量降至最低（最小值） – 使用损失函数，对不同的错误分类采用适当的加权。
数字图像处理
(3) 分类性能测量
数字图像处理
• 对W个模式类w1, w2, … , wW依照属性寻找W个判别函数 d1(x), d2(x), …, dW(x)，若模式x属于类wi，则 di(x)>dj(x), j=1, 2, …, W； ji。
• 关键点： n维模式矢量x=(x1, x2, … , xn)T的建立，即选择适当
的特征产生描述参数。
数字图像处理
(1) 分类器的设计
• 设计目标：
– 建立分类器的逻辑结构 – 建立分类规则的数学基础
• 分类器计算出表示一个对象与某类典型之间的 相似程度——该对象特征的一个函数，用来确 定该对象属于哪一类。
• 多数分类器的分类规则都转换成阈值规则，将 测量空间划分成互不重叠的区域，每个类对应 一个（或多个）区域。如果特征值落在某一个 区域中，则将该对象归于相对应的类中。（某 些区域可能在某种情况下“无法确定”）
1
mj Nj xwjxj, j1,2,,W
则欧氏空间距离判据——计算距离测度为：
D j(x)xm j , j1,2,,W
Di(x)的值是最小距离时，把x划归给类wi。 • 等同于评估函数：dj(x )x T m j1 2m T jm j, j 1 ,2 , ,W
并在di(x)得出最大数值时将x划归给类wi。 • 类wi 和wj决策边界：di(jx)di(x)dj(x)
– 模式类：一个拥有某些共同性质的模式组。 w1、w2、w3 …… 指模式所属的类别或同一类中模式的总体。
• 模式识别所得到的结果是一幅由明确意义的数值或符 号构成的图像或图形文件。属于图像分析的范畴。
数字图像处理
• 利用图像进行模式识别的系统
– 图像信息获取 – 信息加工处理——图像分割，特征抽取与选择 – 判断、分类（与抽取特征方式密切相关，特征向量）
数字图像处理
•第11章-图像识别.
数字图像处理
1. 模式的概念
• 模式识别技术起源于人类自身对事物的认知分析过程， 是依据一定的量度或观测基础把待识别模式划分到各 自的模式类中去的过程。
• 图像识别（模式识别、目标识别）：对物体的特征进 行比较、分析、判断，从而将它们分类或识别。
– 模式：对物体描绘（如特征）的组合。 存在于时间和空间中，可以区别它们是否相同 或相似的可观察的事物。
• 直接对一组已知类别的对象的测试集进行分类， 从而估计分类器的准确率。（测试集具有代表 性，且没有错误）（测试集最好是独立的）
• 使用一组已知对象的测试集，估算每一类别中 对象特征的PDF（概率密度分布函数）
• 预先分类代价高时，可以使用循环方法估计分 类器的整体性能。——以一个对象为测试对象， 其他为训练样本。
数字图像处理
2. 特征选择
• 良好的特征应具有的特点：
– 可区别性：不同类被的特征值具有明显差异。 – 可靠性：同类对象特征值比较接近。 – 独立性：各特征之间彼此不相关。 – 数量少：系统复杂度随特征个数（特征参量维数）
迅速增长。
• 从许多可能的特征中选择一些付诸于度量并呈 现给分类器的特征。
• 不断删去无用特征，组合有关联特征。 • 可以通过计算每类的特征值，进行分析选择。
数字图像处理
3. 匹配
• 原理：
– 基于匹配的识别技术通过原型模式矢量表示 每一个类。
– 未知模式被按照预先定义的度量赋予与其最 相近的类。
• 方法：
– 最小距离分类器（最简单） – 基于相关的方法 – ……
数字图像处理
(1) 最小距离分类器
• 在欧氏空间计算未知量和每一个原型矢量间的距离。 • 例如，假设每个模式类的原型定义为该模式的平均矢量：
• 结构（句法）模式识别
– 分析图像结构关系 – 串和数（结构描述，定性 ）
• 模糊模式识别方法 • 人工神经网络识别法 • 统计学习理论和支持向量机识别方法
数字图像处理
二、统计模式识别 （基于决策理论方法）
• 统计模式识别方法最终都要归结为分类的问题。 • 统计模式识别的过程
1. 分类器
• 基于使用决策（判别）函数——分类器
– Iris Setosa (多刺的) – Iris Virginaca (单性的) – Iris Versicolor (杂色的)
• x=(x1, x2)T， x1和 x2分别代表花瓣长度和宽度。 • 模式矢量 x=(x1, x2,……, xn)T 中元素性质取决于
描述物理模式自身所采用的方法。
花瓣宽度(cm)
数字图像处理
• 模式类 w1、w2、w3分别表示Setosa (多刺的)、 Virginaca (单性的)和 Versicolor (杂色的)三种花。
花瓣长度(cm)
图11.2 用两个度量描述三种鸢尾属植物的花
数字图像处理
(2) 串
• 适用于描述基于原始元素的较为简单的连接， 通常和边界形状有关。