１ 文本 分 类
在文本分类 系统中， 我们使用的文本都是非结构
化 的 自然 文 本 ， 因此 要 对这 些 文 本 进 行 预处 理 ， 提 取
然后将特征根据权重 由大到小排序 ， 根据 向量 的维数
选择排序后前面的特征 。各特征权重的计算具体方 法为 ：
１ ． ２ ． １特 征预 处理
朴 素 贝叶斯 分类 器是 一 种最 常见 且 原理 简单 ， 实
个 向量 表示 出来 ，那 么文 本 是一 个 ｍ个 词 条 组 成
际应用很成功的方法 。 朴素贝叶斯分类器 中的“ 朴素” 主要是指假设各属性间相互独立 ， 每个节点只与类节 点关联。朴素贝叶斯分类器简单高效 ， 适合属性较多 的模型。将朴素贝叶斯方法应用在文本分类中， 通过 对训练文本的学习，得到 了根节点和各属性节点 ， 以 及 网络 中的参数。进而使用该 网络对文本进行分类 ， 得到 了比较好 的结果。
ｓ ａ ｔ ｉ ｓ ｆ ａ ｃ ｔ ｏ ｒ ｙ ｒ ｅ ｓ ｕ ｌ ｔ ｉ ｓ ａ ｃ ｈ ｉ ｅ ｖ ｅ ｄ ． Ｋｅ ｙ ｗｏ ｒ ｄ ｓ ： ｎ ａ ｉ ｖ ｅ ｂ ａ ｙ ｅ ｓ ｉ ａ ｎ， ｃ ｌ ａ ｓ ｓ ｉ ｉ ｆ ｅ ｒ ， ｔ ｅ ｘ ｔ ｃ ａ ｔ ｅ ｇ ｏ ｒ ｉ ｚ ａ ｔ ｉ ｏ ｎ ， ｆ ｅ ａ ｔ ｕ ｒ ｅ
Ａｂ ｓ ｔ ｒ ａ ｃ ｔ ：Ｎａ ｉ ｖ ｅ Ｂ ａ ｙ ｅ ｓ ｉ ａ ｎ ｉ ｓ ａ ｍｅ ｔ ｈ ｏ ｄ ｕ ｓ ｅ ｄ ｉ ｎ ｕ ｎ ｃ ｅ ｒ ｔ ａ ｉ ｎ ｔ ｙ ｉ ｎ ｆ ｅ ｒ ｅ ｎ ｃ ｅ ． ｉ ｔ ｉ ｓ ｓ ｉ ｍｐ ｌ ｅ ， ｂ ｕ ｔ ｖ ｅ ｒ ｙ ｓ ｔ ｒ ｏ ｎ ｇ
・
５ ８ ・
（ 总０ ９ ４ ８ ）
基于朴素贝叶斯的文本分类
２ ０ １ ３ 年第 １ ２ 期
能” 这 些词 ， 我们 或 多 或少 地 能 了解 网页 的主 题 。如
果看到“ 应用” 、 “ 希望” 等词语 ， 对主题基本上还是一 无所知 。因此 ， 去掉这些通用词 ， 这一步可 以采用半
高分辨的特征。这样不仅降低了工作的复杂度 ， 同时 去掉一些模糊的特征 ， 提高了分类的精度 。 １ ． １ 文本表示 用 向量空 间表示文本 ， 将训练文本分词后 ， 文本
①去掉停用词 、 连词 ， “ 的” “ 地” “ 得” “ 和” “ 与” 等；
②同义词合并 ， 我们采用《 同义词词林》 中的同义
的集合 （ 。 ， ， …， Ｗ ） 。
１ ． ２ 特 征选 择
由于文本无结构化的特点 ， 使得用向量表示文本 时会达到几万维甚至几十万维 ， 向量表示文本并不是 特征越多越好 ， 有一些特征 的加入反而降低了分类的 效果。为了降低向量的维数 ， 因此我们要采用一些高 分辨度的特征 ， 去掉不必要 的特征。我们采用特征加 权重 的方法 ， 权重表示该特征在分类上 的贡献大小 ，
ａ ｐ ｐ ｌ ｉ ｃ ａ ｂ ｉ ｌ ｉ ｔ ｙ ． Ｔ ｈ ｉ ｓ ａ ｒ ｔ ｉ ｃ ｌ ｅ ｕ ｓ ｅ ｓ Ｎａ ｉ ｖ ｅ Ｂ ａ ｙ ｅ ｓ ｉ ａ ｎ ｉ ｎ ｔ ｅ ｘ ｔ ｃ ａ ｔ ｅ ｇ ｏ ｉ ｒ ｚ ａ ｔ ｉ ｏ ｎ ． Ｏｎ ｔ ｈ ｅ ｂ ａ ｓ ｉ ｓ ｏ ｆ ｔ ｈ ｅ ｔ ｒ ａ ｄ ｉ ｔ ｉ ｏ ｎ ａ ｌ ｔ ｅ ｘ ｔ ｃ ａ ｔ ｅ ｇ ｏ ｉ ｒ ｚ ａ ｔ ｉ ｏ ｎ ｍｅ ｔ ｈ ｏ ｄ ， ｔ ｈ ｉ ｓ ｐ ａ ｐ ｅ ｒ ｉ ｍｐ ｒ ｏ ｖ ｅ ｍｅ ｔ ｈ ｏ ｄ ｏ ｆ ｃ ｈ ｏ ｉ ｃ ｅ ｏ ｆ ｔ ｅ ｘ ｔ ｃ ｈ ａ ｒ ａ ｃ ｔ ｅ ｉｓ ｒ ｔ ｉ ｃ ． Ｔ ｈ ｒ ｏ ｕ ｇ ｈ ｔ ｈ ｅ ｅ ｘ ｐ ｅ ｉｍｅ ｒ ｎ ｔ ，
摘ቤተ መጻሕፍቲ ባይዱ
要： 朴素贝叶斯是一种用于不确定性推理的方法 ， 其原理简单 ， 但是适用性却很强。 将朴素贝叶斯用在文本分类
中。在传统 的文本分类方法的基础上 ， 对文本特征的选择做了改进 ， 通 过实验 ， 达 到了比较满意的效果 。
关键词 ： 朴素 贝叶斯 ， 分类 器 ， 文本分类 ， 特征 中图分类号 ： Ｔ Ｐ ３ ９ １ 文献标识码 ： Ａ
Ｔｅ ｘ ｔ Ｃａ ｔ ｅ ｇ ｏ ｒ ｉ ｚ ａ ｔ ｉ ｏ ｎ Ｂａ ｓ ｅ ｄ ｏ ｎ Ｎａ ｉ ｖ ｅ Ｂａ ｙ ｅ ｓ ｉ ａ ｎ
Ｊ Ｉ ＡＮ Ｘｉ ａ ｏ － ｙ ａ ｎ， Ｃ ＵＩ Ｃ ａ ｉ － ｘ ｉ ａ
（ Ｄ ｅ ｐ ａ ｒ ｔ ｍ ｅ ｎ ｔ ｏ ｆＣ ｏ ｍ ｐ ｕ ｔ ｅ ｒ Ｓ ｃ ｉ ｅ ｎ ｃ ｅ ， Ｔ ａ ｉ ｙ ｕ ａ ｎ Ｎ ｏ ｒ ｍ ａ ｌ Ｃ ｏ ｌ ｌ ｅ ｇ ｅ ， Ｔ ａ ｉ ｙ ｕ ａ ｎ ０ ３ ０ ０ １ ２ ， Ｃ ｈ ｉ ｎ ａ ）
第２ ６ 卷
第ｌ ２期
电 脑 开 发 与 应 用
（ 总０ ９ ４ ７ ）
・ ５ ７ ・
文章 编号 ： １ ０ ０ ３ — ５ ８ ５ ０ （ ２ ０ １ ３ ｌ １ ２ — ０ ０ ５ ７ — ０ ２
基于朴素贝叶斯的文本分类
菅小艳 ， 崔彩 霞
（ 太原师范学院计算机系 ， 太原 ０ ３ ０ ０ １ ２ ）
词， 将同义词合并为一个特征； ③去掉通用词 ， 在汉语 中 ， 看到“ 贝叶斯 ” 、 “ 原子
中的每个词条表示 向量 中的一维 ， 一个文本就能用一
收稿 日期 ： ２ ０ １ ３ — １ ０ — １ ３ 。 修 回 日期 ： ２ ０ １ ３ — １ １ － １ ０
￥ 作者简 介 ： 菅小孢， 女， １ ９ ７ ５ 年出生， 讲师 ， 硕士研究生， 研究方向： 机器学习， 自 然语言 攻 理。