7.2 机械式学习 7.3 指导式学习 7.4 归纳学习 7.5 类比学习 7.6 基于解释的学习 7.7 学习方法的比较与展望
2
7.1 机器学习的基本概念
7.1.1 学习 7.1.2 机器学习 7.1.3 机器学习系统 7.1.4 机器学习的发展 7.1.5 机器学习的分类
3
7.1.1 学习
（1）学习是系统改进其性能的过程：西蒙，1980。
8
7.1.3 机器学习系统
2. 机器学习系统的条件和能力
（1）具有适当的学习环境 （2）具有一定的学习能力 （3）能应用学到的知识求解问题 （4）能提高系统的性能
9
7.1.3 机器学习系统
3. 机器学习系统的基本模型
环境
学习Βιβλιοθήκη 知识库执行与评价学习系统的基本结构
10
7.1 机器学习的基本概念
7.1.1 学习 7.1.2 机器学习 7.1.3 机器学习系统 7.1.4 机器学习的发展 7.1.5 机器学习的分类
7
77..11.3机器机学器习学的习基系本统概念
1. 机器学习系统的定义
学习系统：能够在一定程度上实现机器学习的系统。 萨利斯(Saris)的定义（1973年）：能够从某个过程或 环境的未知特征中学到有关信息，并且能把学到的信息 用于未来的估计、分类、决策或控制，以便改进系统的 性能。 施密斯等的定义（1977年）：在与环境相互作用时， 能利用过去与环境作用时得到的信息，并提高其性能。
机械式学习实质是用存储空间来换取处理时间。
20
7.2 机械式学习
塞缪尔的跳棋程序 CHECKERS
6A
2B
6C
在给定搜索深度下用估价函 数对格局进行评分，通过倒 推计算求出上层节点的倒推 值，决定当前的最佳走步。 下次遇到相同情况，直接 利用倒推值决定最佳走步， 不需重新计算。 Q
16
7.1.5 机器学习的分类
2. 按学习能力分类： 再励学习（强化学习或增强学习）
17
7.1.5 机器学习的分类
2. 按学习能力分类： 非监督学习（无教师学习）
3. 按推理方式分类： 基于演绎的学习（解释学习）。 基于归纳的学习 （示例学习、发现学习等 ）。 4. 按综合属性分类： 归纳学习、分析学习、连接学习、 遗传式学习等。
12
7.1.4 机器学习的发展
2. 符号学习的研究（20世纪70年代中期）
符号概念获取的学习方法（1970年）：模拟人类的概 念学习过程，通过分析一些概念的正例和反例构造出 这些概念的符号表示。 莫斯托夫（D. J. Mostow）的指导式学习。 温斯顿（Winston）和卡鲍尼尔（J. G. Carbonell） 的类比学习。 米切尔（T. M. Mitchell）等人的解释学习。
13
7.1.4 机器学习的发展
3. 连接学习的研究（20世纪80年代）
连接学习：一种以非线性大规模并行处理为主流的神 经网络研究。
1980年，在卡内基－梅隆大学召开了第一届机器学习 国际研讨会。
1986 年 ， 创 刊 了 第 一 本 机 器 学 习 杂 志 《Machine Learning》。
18
第7章 机器学习
7.1 机器学习的基本概念
7.2 机械式学习
7.3 指导式学习 7.4 归纳学习 7.5 类比学习 7.6 基于解释的学习 7.7 学习方法的比较与展望
19
7.2 机械式学习
机械式学习（rote learning）又称记忆学习， 或死记式学习：通过直接记忆或者存储外部环境所 提供的信息达到学习的目的，并在以后通过对知识 库的检索得到相应的知识直接用来求解问题。
Artificial Intelligence Principles and Applications
第 7 章 机器学习
(Machine Learning)
桑克（R. Shank)：
“一台计算机若不会学习，就不能说它具 有智能。”
第7章 机器学习
77..11 机机器器学学习习的的基基本本概概念念
（2）学习是获取知识的过程。 （3）学习是技能的获取。
例“学如弹“钢小琴孩”学“任进等走何 使学。路改 得习
进是”系，、统这中种的改 系统在重复
（4）学习是事物规律的发现过程。
同样的工作或进行 类似的工作时，能
学习：从感性知识到理性知识的认完识成过得程更，好从。表”层知
识到深层知识的转换过程。
学习：一个有特定目的的知识获取过程。
14
7.1 机器学习的基本概念
7.1.1 学习 7.1.2 机器学习 7.1.3 机器学习系统 7.1.4 机器学习的发展 7.1.5 机器学习的分类
15
7.1.5 机器学习的分类
1. 按学习方法分类（温斯顿，1977 ）： 机械式学习、指导式学习、示例学习、类比学习、
解释学习等。 2. 按学习能力分类： 监督学习（有教师学习）
内在行为：获取知识、积累经验、发现规律。
外部表现：改进性能、适应环境、实现系统的自我完善。
4
7.1 机器学习的基本概念
7.1.1 学习 7.1.2 机器学习 7.1.3 机器学习系统 7.1.4 机器学习的发展 7.1.5 机器学习的分类
5
7.1.2 机器学习
机器学习(Machine Learning)：计算机能模拟人 的学习行为，自动地通过学习获取知识和技能，不 断改善性能，实现自我完善。
1）学习机理: 对学习机制的研究，即人类获取知识、技能和 抽象概念的天赋能力。
2）学习方法：在生物学习机理进行简化的基础上，用计算的 方法进行再现。
3）学习系统：根据特定任务的要求，建立相应的学习系统。
6
7.1 机器学习的基本概念
7.1.1 学习 7.1.2 机器学习 7.1.3 机器学习系统 7.1.4 机器学习的发展 7.1.5 机器学习的分类
11
7.1.4 机器学习的发展
1. 神经元模型的研究（20世纪50年代中期）
主要研究工作：应用决策理论的方法研制可适应环境的通用 学习系统（general purpose learning system）。
1957年，罗森勃拉特（F. Rosenblatt）提出感知器模型。 塞缪尔（Samuel）的跳棋程序：分析了约175000副不同棋局 后，归纳出了棋类书上推荐的走法，准确率达到48％。 1969 年 ， 明 斯 基 和 佩 珀 特 （ Papert ） 发 表 了 论 著 《Perceptron》，对神经元模型的研究作出了悲观的论断。