➢ Canada: Toronto (Hinton), Concordia (C.Y. Suen) ➢ UK: Surrey (Kittler), MSR Cambridge (Bishop) ➢ France: INRIA
国内
➢ MSRA(微软亚洲研究院), HKUST(香港科技大学) ➢ 中科院自动化所、清华大学、北京大学、上海交大、西
• 60年代 L.A.Zadeh提出了模糊集理论，模糊模式识别理 论得到了较广泛的应用。
模式识别
24
模式识别的发展
• 80年代 Hopfield提出神经元网络模型理论。近些年人 工神经元网络在模式识别和人工智能上得到较广泛的 应用。
• 90年代 小样本学习理论，支持向量机也受到了很大的 重视。
• 1973年 IEEE发起了第一次关于模式识别的国际会议 “ICPR”，成立了国际模式识别协会---“IAPR”，每2年 召开一次国际学术会议；
的基础。因此，在60～70年代，统计模式识别发展很快， 但由于被识别的模式愈来愈复杂，特征也愈多，就出现 “维数灾难”。随着计算机运算速度的迅猛发展，这个 问题得到一定克服。目前，统计模式识别仍是模式识别 的主要理论。
• 50年代 Noam Chemsky 提出形式语言理论，在此基础上， 美籍华人付京荪 提出句法结构模式识别。
课程简介
本课程主要介绍统计模式识别、神经网络的理论与 方法及其相关应用。要求学生了解模式识别的基本 概念，掌握基本原理和基本方法；了解计算机分类 识别事物和计算机分析数据的概念及基本方法，了 解神经网络的原理及其在模式识别中的应用。
先修课程 ：线性代数，概率论与数理统计，程序 设计基础
教材与教学参考书
概念
数字化感知数据：来源丰富、数量巨大
模式识别
20
模式识别的难点
概念
感知数据：非结构化（像素、声波等）
模式识别
21
模式与模式类
概念
样本(sample, object)：一类事物的一个具体体现，对 具体的个别事物进行观测所得到的某种形式的信号。
模式(pattern)：表示一类事物，如印刷体A与手写体A 属同一模式。B与A则属于不同模式。
➢ a fingerprint image ➢ a handwritten cursive word ➢ a human face ➢ a speech signal ➢ ……
模式识别
23
模式识别的发展
• 1929年 G. Tauschek发明阅读机 ，能够阅读0-9的数字。 • 30年代 Fisher提出统计分类理论,奠定了统计模式识别
模式识别
18
模式识别和模式的概念
模式识别 – 直观，无所不在，“人以类聚， 物以群分”
– 周围物体的认知：桌子、椅子 – 人的识别：张三、李四 – 声音的辨别：汽车、火车，狗叫、人语 – 气味的分辨：炸带鱼、红烧肉
人和动物的模式识别能力是极其平常的， 但对计算机来说却是非常困难的。
模式识别
19
模式识别的难点
安交大、南京理工大学、武汉大学等
模式识别
31
1.2 模式识别系统
待识别对象
数据采集 与预处理
特征提取 与选择
分类识别
识别结果
训练样本
数据采集 与预处理
特征提取 与选择
对分类判决的 规则进行改进
主要会议
系列性国际会议 ➢ ICPR：2年一次，1000人规模 ➢ ICCV： 2年一次，1000人规模 ➢ CVPR：每年一次在美国，1000人规模 ➢ ICDAR： 2年一次，300-400人规模
其他 ➢ ICASSP, ICIP ➢ ICML
课程内容目录
1． 模式识别概述 2． Bayes决策理论 3． 概率密度函数的估计 4． 线性判别分析 5． 非线性分类器 6． 其它分类方法 7． 特征提取与选择 8． 非监督模式识别
1.1 模式识别和模式的概念
模式——Pattern
存在于时间和空间中可观察的物体，如果我们可以区别 它们是否相同或是否相似，都可以称之为模式。
模式所指的不是事物本身，而是从事物获得的信息， 因此，模式往往表现为具有时间和空间分布的信息。
模式的直观特性:
– 可观察性 – 可区分性 – 相似性
模式识别
事实上，最后的结果也成为分类。因此有预先知 道类别(已知病症)与未知类别(未知病症)的区别。
模式识别：就是以计算机为工具、各种传感器为 信息来源，数据计算与处理为方法，对各种现象、 事物、状态等进行准确地分析、判断识别与归类。
模式识别
13
1.1 模式识别和模式的概念 感知：从环境获取信息
模式识别
14
模式识别
29
主要组织
国际组织
➢IAPR (International Association for Pattern Recognition)
➢IEEE Computer Society: TC on PAMI (Pattern Analysis and Machine Intelligence)
ห้องสมุดไป่ตู้
15
模式（Pattern）实例
模式识别
16
计算机模式识别
概念
模式识别：使计算机模仿人的感知能力，从 感知数据中提取信息（判别物体和行为）的 过程。
姚明
ROCKETS
11
数据 获取
模式 分割
模式 识别
模式识别
17
模式识别和模式的概念
概念
Pattern recognition
is the study of how machines can observe the environment, learn to distinguish patterns of interest from their background, and make sound and reasonable decisions about the categories of the patterns. (Anil K. Jain)
教学及考核方式
讲课+讨论 期末考试
第一章 模式识别概述
Contents
模式识别
10
例子1：医生诊病过程
1)测量病人的体温和血压，化验血沉，询问临床表现； 2)通过综合分析，抓住主要病症； 3)医生运用自己的知识、经验，根据主要病症、测量化验结果，
作出正确的诊断。
在模式识别技术中，常用的术语有：样本、模式、特征、类型等 等，对照医生诊病过程，有：
社，1999。
主要期刊
IEEE Trans. on PAMI，1978-，IEEE Computer Society Pattern Recognition，1968-，PR Society, Elsevier Pattern Recognition Letter，1980-，IAPR, Elsevier Machine Learning，Neural Computation，IEEE Trans. On NN Int. Journal of PR and AI, 1988- (World Scientific) Pattern Analysis and Applications, 1997- (Springer) Int. J. Document Analysis & Recognition, 1998 模式识别与人工智能 中国图像与图形学学报
➢ 基于工程数据： 振动模式分析与故障诊断/石油钻井数据分析与事故预
报/基于状态模式的智能控制/数据挖掘与知识发现等
模式识别
26
模式识别的发展
• 模式识别的计算手段更加先进： 海量存储技术、高速计算/并行计算技术、
网格技术、网络技术、
新型前端器件(激光、红外、MEMS、传感器网 络)……
• 模式识别的新型算法层出不穷： Computation with word(Zadeh)
c.特征：患者某些具有显著特征的化验数据及表征； 特征选择与提取：能表征(疾病)特异性的化验结果
与表征； d.判决：医生运用知识、病例经验综合分析给出诊断；
判决准则/规则：医生的知识 判决结果：将患者明确(或以概率)确定为某一种病 症(或多种/并发病症)的患者(及病患严重程度)
模式识别
12
医生诊病过程
模式识别（第三版），张学工主编，清华大学出版社，2010 模式识别（第二版），边肇祺，张学工等，清华大学出版
社， 2000 模式识别，李晶皎，赵丽红等编著，电子工业出版社，2010 模式识别原理、方法及应用，J．P．Marques de sa，清华大
学出版社，2002。 模式识别，杨光正等，中国科学科技大学出版社，2003。 Neural Network Design，Martin T.Hagan，机械工业出版社，2002。 神经网络模式识别及其实现，潘蒂（美），电子工业出版
➢ 样本是具体的事物，而模式是对同一类事物概念性的概括。
➢ 模式类与模式联合使用时，模式表示具体的事物，而模式类 则是对这一类事物的概念性描述。
模式识别是从样本到类别的映射。
样 本
模式识别
类 别
模式识别
22
模式识别和模式的概念
概念
Watanabe defines a pattern “as opposite of a chaos; it is an entity, vaguely defined, that could be given a name.”
Soft Computation DNA Computation……
• 国内外模式识别的学术活动从未间断: 小波/模式识别国际会议、机器学习/模式识别国际
会议、图像处理/模式识别国际会议、数据挖掘/模式 识别国际会议……