ｔｈｅｓａ ｍｅｐ ｒｅｄｉｃｔｉｏｎａ ｂｉｌｉｔｙｉ ｓｓｕ ｆｉｃｉｅｎｔａｎ ｄｅ ｓｓｅｎｔｉａｌｔｏ ｃ ｏｎｄｉｔｉｏｎｉｎ ｄｅｐｅｎｄｅｎｃｅ，ｔｈ ｕｓｔｈ ｅ ｉｎｔｒｏｄｕｃｉｎｇｏ ｆｐ ｒｅｄｉｃｔｉｏｎａ ｂｉｌｉｔｙ ｃｏｍｂｉｎｅｓｔ ｈｅｅ ｘｉｓｔｅｎｃｅａ ｎｄｄ ｉｒｅｃｔｉｏｎｏ ｆａ ｒｃｓａ ｍｏｎｇ ｖａｒｉａｂｌｅｓ．Ｔｈ ｅｍ ｅｔｈｏｄｈ ａｓｔｈ ｅｆｏ ｌｌｏｗｉｎｇｓｃｈ ａｒａｃｔｅｒｉｓｔｉｃｓ：ｌｅ ａｒｎｉｎｇｅ ｆｉｃｉｅｎｃｙａ ｎｄａ ｃｃｕｒａｃｙ ａｒｅｈ ｉｇｈ，ｔｈ ｅｌｅ ａｒｎｉｎｇｓ ｔｒｕｃｔｕｒｅｔ ｅｎｄｓｔｏ ｂ ｅｓ ｉｍｐｌｉｆｉｅｄ，ａｖ ｏｉｄｉｎｇｅ ｘｃｅｓｓｉｖｅｃ ｏｍｂｉｎｉｎｇｏ ｆ ｄａｔａ，ａ ｂｌｅ－ｔｏｄ ｅａｌｗ ｉｔｈｉ ｎｃｏｍｐｌｅｔｅｄ ａｔａ，ｕ ｎｎｅｃｅｓｓａｒｙｔ ｏｏ ｒｄｅｒｖ ａｒｉａｂｌｅｓａ ｎｄｗ ｉｔｈｔ ｈｅ
ｃｏｎｓｔｒｕｃｔｉｎｇｔｈ ｅｍ ｏｓｔｅｆ ｉｃｉｅｎｔｎ ｅｔｗｏｒｋｓ ｔｒｕｃｔｕｒｅ． Ｔｈ ｅｐ ａｐ ｅｒｉｌ ｌｕｓｔｒａｔｅｓｔｈ ｅｄ ｅｖｅｌｏｐｍｅｎｔａｎ ｄｔｈ ｅｏｒｅｔｉｃａｌｂａ ｓｉｓｏ ｆＢ ａｙｅｓｉａｎｎ ｅｔｗｏｒｋｓａ ｎｄ
ｔｈｅａｐ ｐｌｉｃａｔｉｏｎｏ ｆｃｌ ａｓｓｉｆｉｃａｔｉｏｎａ ｎｄｐ ｒｅｄｉｃｔｉｏｎ，ｕｎ ｃｅｒｔａｉｎｒｅ ａｓｏｎｉｎｇｐ ｒｏｊｅｃｔａｎ ｄｃ ａｕｓｅａｎ ｄ ｅｆｅｃｔｄ ａｔａ ｍｉｎｉｎｇ，ｅ ｍｐｈａｔｉｃａｌｌｙ ｓｔｕｄｙｉｎｇ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋｓ ｌｅａｒｎｉｎｇ ｔｈｅｏｒｉｅｓ； ｉｌｌｕｓｔｒａｔｉｎｇｔｈ ｅｍ ａｉｎｃ ｏｎｔｅｎｔｓｏ ｆＢ ａｙｅｓｉａｎｎ ｅｔｗｏｒｋｓｌｅ ａｒｎｉｎｇａ ｎｄｉ ｔｓｓｔ ｒｕｃｔｕｒａｌｌｅ ａｒｎｉｎｇ
东北师范大学 硕士学位论文 贝叶斯网络学习方法和算法研究 姓名：张剑飞 申请学位级别：硕士 专业：计算机软件与理论 指导教师：王辉
20050501
摘要
贝叶 斯 网 络由于具有图形化的模型表示形式、局部及分布式的学习机制、直观 的推理：适用于表达和分析不确定性和概率性的事物；能够对不完全、不精确或不 确定的知识或信息中做出有效的推理等特性，而成为 目前不确定知识表达和推理领 域最有效的模型之一。如何通过有效的方法和算法利用现实数据学习贝叶斯网络， 并准确地表达蕴含在数据中有价值的信息是 目前图形模式与数据挖掘领域中的研究
使 鲜用梢 学环 立 部 盯门拒 或眺 叽 阅 乳 浏 本习 人
授权 东北 师
据库进行检
学位 论 文 。
（保 密
学 位论 日
－１ｌｉａ 指导教师签名：
合；能够处理不完整数据，不需要对变量进行排序，并且具有抗噪声数据功能。 在理 论 上 ，贝叶斯网络分类器与联合分类器具有相同的分类能力，由于具有概
率推断功能，根据条件独立性能够有效地降低维度，显著提高分类的效率，而实现 贝叶斯网络分类器的核心是贝叶斯网络结构学习，有效的贝叶斯网络结构学习机制 是建立贝叶斯网络分类器的基础。在基于预测能力的离散贝叶斯网络结构学习方法 的基础上给出了一种基于预测能力的贝叶斯网络分类器学习模型。数据实验表明， 使用该方法建立的贝叶斯网络分类模型具有较强的分类能力，是一种有效实用的贝 叶斯网络分类器的学习方法。
ｆｕｎｃｔｉｏｎｓｏ ｆｒｅ ｓｉｓｔｉｎｇｎ ｏｉｓｅｄ ａｔａ．Ｔ ｈｅｔ ｙｐｉｃａｌａ ｐｐｌｉｃａｔｉｏｎｏ ｆｔｈ ｅＢ ａｙｅｓｉａｎｔ ｈｅｏｒｙ ｉｓｔｈ ｅ ｃｌａｓｓｉｆｙｉｎｇ ｓｔｕｄｙ．Ｉｔ ｄ ｏｅｓｎ ｏｔｃ ｌａｓｓｉｆｙａ ｎｏ ｂｊｅｃｔｉ ｎｔｏａ ｃ ｅｒｔａｉｎｃ ｌａｓｓａ ｂｓｏｌｕｔｅｌｙ，ｂ ｕｔ ｃａｌｃｕｌａｔｉｎｇｉ ｔｓｐ ｒｏｂａｂｉｌｉｔｙ ａｎｄｔｈ ｅｃ ｌａｓｓｗ ｉｔｈｔ ｈｅｇ ｒｅａｔｅｓｔｐ ｒｏｂａｂｉｌｉｔｙ ｉｓｔｈ ｅｏ ｎｅｔｈ ａｔｔｈ ｅ ｏｂｊｅｃｔｂ ｅｌｏｎｇｓｔ ｏ；ｉｎ ｍ ａｎｙｃ ａｓｅｓａ ｌｌｐ ｒｏｐｅｒｔｉｅｓｉｎ ｔ ｈｅＢ ａｙｅｓｉａｎｃ ｌａｓｓｉｆｉｃａｔｉｏｎｆ ｕｎｃｔｉｏｎ ｐｏｔｅｎｔｉａｌｌｙ，ｔｈ ａｔｉｓ ，ｏｎ ｅｏ ｒｓｅ ｖｅｒａｌｐ ｒｏｐｅｒｔｉｅｓｃ ａｎｎ ｏｔｄ ｅｔｅｒｍｉｎｅｃ ｌａｓｓｉｆｉｃａｔｉｏｎｂ ｕｔａｌ ｌｔｈ ｅ ｐｒｏｐｅｒｔｉｅｓａ ｒｅ ｉｎｖｏｌｖｅｄｉ ｎｉ ｔ．Ｔ ｈｅｐ ｒｏｐｅｒｔｉｅｓｏ ｆＢ ａｙｅｓｉａｎｎ ｅｔｗｏｒｋｃ ｌａｓｓｉｆｉｃａｔｉｏｎｃ ａｎｂ ｅ
ｄｉｓｃｒｅｔｅ，ｃ ｏｎｔｉｎｕｏｕｓａ ｎｄｍ ｉｘｅｄ．
Ｔｈ ｉｓ ｐ ａｐ ｅ ｒｆ ｕｒｔｈｅｒｓ ｔｕｄｉｅｓｔｈ ｅｔ ｙｐｉｃａｌＢ ａｙｅｓｉａｎｃ ｌａｓｓｉｆｉｅｒｓ，ｔｈ ａｔｉｓ ，ｎ ｄｖｅＢ ａｙｅｓｉａｎ
ｃｌａｓｓｉｆｉｅｒ ，ＴＡＮＣ（ｔｒｅｅａ ｕｇｍｅｎｔｅｄ ｎａｉｖｅＢ ａｙｅｓａｎ ）ｃｌａｓｓｉｆｉｅｒａ ｎｄ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ
用过的材料 明确
在论文中作 咋者
学 位 论
一 的
签
同 说
名
非工 铂 的 同 端 志
拼明 浸 表 示 准 谢
勃样洲二
．
脚 ﹂
办 级 ．
川川
Ｊ 丰
”Ｊ Ｊ．
对 意
亡
勾 研 矜究 幼 所 做 啪的
︒ 月 州 期头 ： ︐ 业 也女
任何 之习
贡 难献廿 均沂 己 １卜 － － － ．
论 从﹄Ｊ 场 洲
ｊ 文 再用 反 沈
卜沙
谢的地方外 粉
得东
成 阿 北
果 刚 师
据︒ 特 我 所 诊 知 俐鲜 其 针 蜘 人 饭 认范 瑞 学 够 其︐ 瑟他
除
了
内文
叶 ︑
中
特 钻别
眯 石 表熟 或 以 黔 写乳
豹 育 戮机 砷 构 的 衅学
加以 加濒 位或
标 趁注目 和昭 致
邢
究
孙
成
彭
果
ｔ 目
证 日书翎 而砚 使
也 不 包含 为 与我
ｆｏｒｍ ｏｆｇ ｒａｐｈｍ ｏｄｅｌ，ｐ ａｒｔｉａｌａｎ ｄｄ ｉｓｔｒｉｂｕｔｅｄｓ ｔｕｄｙｍ ｅｃｈａｎｉｓｍ ａｎｄｄ ｉｒｅｃｔｌｙｐ ｅｒｃｅｉｖｅｄ ｉｎｆｅｒｅｎｃｅ；ａｐｐｌｉｃａｂｌｅｉ ｎｅ ｘｐｒｅｓｓｉｎｇａ ｎｄａ ｎａｌｙｚｉｎｇｕ ｎｃｅｒｔａｉｎａ ｎｄｐ ｒｏｂａｂｉｌｉｔｙ ｔｈｉｎｇｓａ ｎｄ ｅｆｉｃｉｅｎｔｌｙｒ ｅａｓｏｎｉｎｇｐ ａｒｔｉａｌ，ｉｎ ａｃｃｕｒａｔｅａ ｎｄｕ ｎｃｅｒｔａｉｎｋ ｎｏｗｌｅｄｇｅｏ ｒｉｎ ｆｏｒｍａｔｉｏｎ．Ｉｎ ｔ ｈｅ ｆｉｅｌｄｏ ｆｇ ｒａｐｈｍ ｏｄｅｌａｎ ｄｄ ａｔａｍ ｉｎｉｎｇ，ｔｈ ｅｃ ｅｎｔｒａｌｉｓ ｓｕｅａ ｎｄｄ ｉｆｉｃｕｌｔｐ ｏｉｎｔｉｓ ｈ ｏｗｔ ｏｌ ｅａｒｎ Ｂａｙｅｓｉａｎｎ ｅｔｗｏｒｋｓａ ｎｄｔ ｏａ ｃｃｕｒａｔｅｌｙｅ ｘｐｒｅｓｓｖ ａｌｕａｂｌｅｉｎ ｆｏｒｍａｔｉｏｎｉｎ ｔｈ ｅｄ ａｔａｔｈ ｒｏｕｇｈｔ ｈｅ
ｃｌａｓｓｉｆｉｅｒ ｂａｓｅｄ ｏｎ ＭＤＬ．Ｔ ｈｅｏｒｅｔｉｃａｌｌｙ，Ｂ ａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｃｌａｓｓｉｆｉｅｒｓ ａｎｄ ｕｎｉｏｎ ｃｌａｓｓｉｆｉｅｒｓ ｈａｖｅ ＲＡｍ ｅ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ａｂｉｌｉｔｙ，ｔｈ ｅｃ ｏｒｅ ｏｆｒｅ ａｌｉｚｉｎｇ Ｂａｙｅｓｉａｎｎｅｔｗｏｒｋ ｃｌａｓｓｉｆｉｅｒ ｉｓＢ 盯ｅｓｉａｎ ｎｅｔｗｏｒｋ ｓｔｒｕｃｔｕｒａｌｌ ｅａｒｎｉｎｇ ．Ｔｈｅ ｅｆｉｃｉｅｎｔＢ ａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｌｅａｒｎｉｎｇｍｅｃｈａｎｉｓｍ ｉｓｔ ｈｅｂ ａｓｉｓｏ ｆｃ ｏｎｓｔｒｕｃｔｉｎｇＢ ａｙｅｓｉａｎｎ ｅｔｗｏｒｋｃ ｌａｓｓｉｆｉｅｒ．Ｄｉｓｃｒｅｔｅ
心
彭
用
刚塑 扮
己又
滩
乙 士卜 佳口
本 学 位 论 文 的规 定 构送交学位
文作
却． 文的
者 东 复
完 北 印
汀全 嘴 解 东 翻 北 碗师 到 大 学 哪 有 净件 硒 磁 盘 卜 ︐
师 权 允
危 大 找学 拜 有 关 况保 侧 留 豹并 郎 向 国 拍家 阳 论 幻文 沐 被 查 邪阅
留︑ 有关 和借
论进行了研究，阐述了贝叶斯网络学习的主要内容，同时研究了贝叶斯网络的结构 学习机制。给出了一种基于预测能力的离散贝叶斯网络结构学习的新方法，由于预 测能力就是预测正确率，预测能力相同是条件独立性的充分必要，这样通过预测能 力的引入把变量之间弧的存在性与方向有机地结合在一起。该方法有如下特点：学
习效率及准确程度较高；学习得到的结构倾向于简单化，能够避免对数据的过度拟
ｎｅｔｗｏｒｋＣ ｌａｓｓｉｆｉｅｒ
一创 －
一
一 才万﹃
一叙
一
一 一 一 一一 吐 六１ 性 Ｌ
－
－ 声
一 一一 一 一 日明弓
一 一一
一一
一 －－－ －一 一
准 沂 呈 交 的 学 计 论 文 峨 是 本 劫 在 以 导 却 师 指 葬 导 下 进 行 油 的 饭 研 移 究
本 人 声
研
究
工 作及 取 得
Ｌｅａｒｎｉｎｇｄａｔａ．Ｔ ｈｅｅ ｘｐｅｒｉｍｅｎｔｓｈｏｗｓｔｈａｔｔ ｈｉｓ ｍｅｔｈｏｄ ｃａｎｂ ｅｅ ｆｉｃｉｅｎｔｌｙｈ ｅｌｐｆｕｌｆｏ ｒ
ｎ
Ｂａｙｅｓｉａｎ
ｃｌａｓｓｉｆｉｅｒｌｅ ａｒｎｉｎｇａ ｎｄｈ ｉｇｈｃ ｌａｓｓｉｆｉｃａｔｉｏｎａ ｂｉｌｉｔｙ．
Ｋｅ ｙｗ ｏ ｒｄｓ：Ｂ ａｙｅｓｉａｎｎ ｅｔｗｏｒｋｓ；ｓｔ ｒｕｃｔｕｒａｌｌｅ ａｒｎｉｎｇ；ｐ ｒｅｄｉｃｔｉｏｎａ ｂｉｌｉｔｙ；Ｂ ａｙｅｓｉａｎ