特征方差
第 j类的特征 x和特征 y的方差估值
分别为：
ˆ2xj 1 Nj
Nj
(xij ˆxj)2
i1
和
ˆ2yj 1
Nj
Nj
(yij ˆyj)2
i1
在理想情况下同一类别中所有对象的 特征值应该很相近。
特征相关系数
x 第 j类特征 和特征 y的相关系数估计为
1
ˆxyj Nj
Nj
(xij ˆxj)(yij ˆyj)
（分叉点、端点）
（4）分类器设计
分类器设计的主要功能是通过训练确定判 决规则，使按此类判决规则分类时，错误率最 低或风险最小。
（5）分类决策
在特征空间中对被识别对象进行分类。
ቤተ መጻሕፍቲ ባይዱ
思考题：
水果（如苹果和桔子） 图像自动识别系统： 选择那些有效特征，可以把苹果和桔子有效地 区分开来？
3 模式识别的基本问题
统计模式识别
✓ 基本原理是：有相似性的样本在模式空间中互相接近， 并形成“集团”，即“物以类聚”。
✓ 主要方法有：决策函数法， k近邻分类法，支持向量机， 特征分析法，主因子分析法等…
✓ 参考书籍：《统计模式识别》(Andrew R.Webb)
Jain A K, Duin R P W, Jianchang Mao. Statistical pattern recognition: a review. Pattern Analysis and Machine Intelligence, 2000. 22(1) : 4～37.
C、特征提取：原始特征的数量可能很大，通过映射（或变 换）的方法可以用低维空间表示样本，这个过程叫做特征提取。 映射后的二次特征是原始特征的线性组合（通常是线性组合）。
D、特征选择：从一组特征中挑选出一些最有效的特征以达 到降低特征空间维数的过程。
例如：一幅96x64的图象
（a）Gabor滤波器编码； （b）小波变换+神经网络； （c）细节点
2 基于相关的模板匹配
J1 K1
t(j,k) f(xj,yk)
R(x,y)
j0 k0
J1 K1
J1 K1
[f(xj,yk)]2 [t(j,k)]2
j0 k0
j0 k0
3 基于误差平方和的模板匹配
J 1K 1
D (x,y) [f(xj,yk)t(j,k)2]
j 0k 0
4、特征模板匹配
5、 特征匹配
句法（或结构）模式识别
基于形式语言理论的概念为基础。模式按其结构分解为子模式 或模式基元，模式基元的连接关系以文法形式进行描述。
一个场景的示意图
场景结构的分析
模糊模式识别
✓ 模糊集理论，Zadeh，1965 ✓ 模糊集理论在模式识别中的应用
神经网络模式识别
✓ 特点：具有信息分布式存储、大规模自适应并行处理、 高度的容错性以及学习能力
每类的每一个特征均值：
假设训练样本中有 M个不同类别的样本。 令
N
j
表示第 j类的样本
个特征分别记为 x
数，第
ij 和 y ij
j类中第
。
i 个样本的两
每类的每一个特征均值：
ˆ xj
1 Nj
Nj
xij
i1
和
ˆ yj
1 Nj
Nj
yij
i1
注意：仅是两个值基于训练样本的估计值，而不是
真实的类均值。
mj
1 N xj xj
j 1,2,,W
Dj(x) xmj j 1,2,,W
模式可以是以矢量形式表示的数字特征；
也可以是以句法结构表示的字符串或图；
还可以是以关系结构表示的语义网络或框 架结构等。
对于上述三种类型的模式，必须分别使用不 同的识别和推理方法：统计模式识别，句法 模式识别和人工智能方法。
✓ 缺点：实际应用中仍有许多因素需要凭经验确定，比如 如何选择网络节点数、初始权值和学习步长等；局部极 小点问题、过学习与欠学习问题等
特征选择
所要提取的应当是具有可区别性、可靠 性、独立性好的少量特征。
因此特征选择可以看作是一个(从最差 的开始)不断删除无用的特征和组合有关联 的特征的过程，直到特征的数目减少到易于 驾驭的程度，同时分类器的性能仍能满足要 求为止。
息。
（2）预处理： A、信号增强：去除噪声，加强有用信息。 信号恢复：对退化现象进行复原。
B、归一化处理 （例如图像大小的归一化； 神经网络输入数据的归一化）
（3）特征提取和特征选择 A、特征分类：物理特征、结构特征、数学特征。
B、特征形成：根据被识别的对象产生出一组基本特征，它 可以是计算出来的（当识别对象是波形或数字图像时），也可以 是用仪表或传感器测量出来的（当识别对象是事物或某种过程 时），这样产生的特征叫做原始特征。
图像识别概念
典型模式识别系统
图像识别系统
人脸识别系统
图像识别
概述 模式可以定义为物体的描述。由于描述这个
词的意义比较广泛，有人把它推广到图像数 据本身，因为图像数据也是相应事物的一种 描述，只不过这样的描述不够抽象和简要而 已。
基于图像匹配的图像识别
1 定义 根据已知模式到另一幅图中寻找相应的模式。
（1）特征如何提取？-------特征产生 （2）最有效的特征是那些特征？-------特征选择 （3）对特定任务，如何设计分类器？
-------分类器设计 （4）分类器设计后，如何评价分类器？分类错误
率是多少？ -------分类器评价
模式 传感器 特征产生 特征选择 分类器设计 分类器评价
设计流程
图像处理
图像
计算机图 形学
图像识别 图像理解
描述
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
图像识别
运用模式识别的原理对图像对象进行分类的学问。
模式识别系统
（1）信息的获取 通过传感器，将光或声等信息转化为电信
对特征 x来说，第 j类与第 k类之间的类间距为：
Dˆ xjk
ˆ xjˆxk
ˆ
2 xj
ˆ
2 xk
统计模式识别
基本概念
这里我们讨论数字特征的识别。其前提
i1
ˆxjˆyj
它的取值范围为 [1,1]。
如果=0，说明这两特征之间没有相关性；接近+1 表示这两个特征相关性强；为-1表示任一特征都与 另一特征的负值成正比。
因此，如果相关系数的绝对值接近1，则说明这两 个特征可以组合在一个特征或干脆舍弃其中一个。
类间距离
一个特征区分两类能力的一个指标是类间距离， 即类均值间的方差归一化间距。显然，类间距离大 的特征是好特征。