示） ， 该结构含有最少的状态数。然后对现有模型施
以一系列操作， 这些操作包括： 增加一个前缀状态、
重复一个前缀状 态 、增 加 一 个 后 缀 状 态 、重 复 一 个
后 缀 状 态 、增 加 一 个 目 标 状 态 、重 复 一 个 目 标 状 态 、
增加一个背景状态等。经过这些操作后， 目前的模
在 实 验 数 据 集 上 进 行 “职 务 变 动 ”事 件 抽 取 实 验， 抽取结果如表 １ 所示， 其中候选数据语句范围 采用触发词前后最近的两个句号之间的语句。将表 １ 中的抽取结果和别的系统或方法进行比较， 发现 文中的方法的抽取性能要优于其他方法。
型结构会产生一些新的结构， 将这些新的结构作为
候选结构， 并在一个标注好的测试集上进行测试，
将得分最高的结构作为下一次循环的起始模型结
构， 直到最后找到一个最优的模型结构。
２．２．２ 参数估计
对每类事件要素的 ＨＭＭ 模型， 当模型结构确
定后， 就可以从标注好的训练语料中用最大似然估
计 学 习 模 型 的 参 数 。 计 算 模 型 的 初 始 状 态 概 率 、状
１ 引言 当今信息社会， 大量有用信息存在于文本中。
为了应对信息爆炸带来的严重挑战， 迫切需要一些 自 动 化 的 工 具 帮 助 人 们 从 海 量 文 本 数 据 中 快 速 、准 确地找到真正需要的信息。信息抽取研究正是在这 种背景下产生的， 事件信息抽取（ 简称事件抽取） 是 信息抽取研究中最具挑战性的任务之一， 旨在利用 计算机从文本中自动地抽取特定类型的事件及其 事件要素。例如， 从新闻报道中抽取职务变动事件 的详细信息： 人员、组织机构、职位、时间等。
利用 ＨＭＭｓ 进行文本事件信息抽取时， 首先对 不同的抽取域应该建立相应的 ＨＭＭ， 其中最重要 的两个问题［５］是模型结构学习和进行参数估计。 ２．２．１ 模型结构学习
要建立用于事件信息抽取的 ＨＭＭ 模型， 需要
对每类事件要素从训练数据集学习得到一个优化
的模型结构。虽然每个模型包含四类状态， 并且这
Ａｂｓｔｒ ａｃｔ： Ａ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｈｉｄｄｅｎ Ｍａｒｋｏｖ ｍｏｄｅｌｓ （ ＨＭＭｓ） ｉｓ ｐｒｏｐｏｓｅｄ ｆｏｒ ｅｘｔｒａｃｔｉｎｇ ｔｈｅ ｅｖｅｎｔ ｉｎｆｏｒｍａｔｉｏｎ ｆｒｏｍ Ｃｈｉｎｅｓｅ ｔｅｘｔｓ． Ｆｉｒｓｔｌｙ， ｔｈｅ ｍｅｔｈｏｄ ｃａｎ ｆｉｎｄ ａ ｃａｎｄｉｄａｔｅ ｓｅｎｔｅｎｃｅ， ｗｈｉｃｈ ｃｏｎｔａｉｎｓ ａ ｄｅｓｃｒｉｐｔｉｏｎ ｆｏｒ ａ ｋｉｎｄ ｏｆ ｓｐｅｃｉｆｉｃ ｅｖｅｎｔ ｖｉａ ｔｒｉｇｇｅｒ ｄｅｔｅｃｔｉｎｇ． Ｔｈｅｎ ｔｈｅ ｍｅｔｈｏｄ ｃｏｎｓｔｒｕｃｔｓ ａ ｓｅｐａｒａｔｅ ＨＭＭ ｆｏｒ ａ ｋｉｎｄ ｏｆ ｅｖｅｎｔ ａｒｇｕｍｅｎｔ， ａｎｄ ｍａｋｅｓ ｕｓｅ ｏｆ ｔｈｅｓｅ ＨＭＭｓ ｔｏ ｅｘｔｒａｃｔ ｅｖｅｎｔ ａｒｇｕｍｅｎｔｓ ｆｒｏｍ ｔｈｅｓｅ ｃａｎｄｉｄａｔｅ ｓｅｎｔｅｎｃｅｓ． Ｔｈｅ ｋｅｙ ｏｆ ｃｏｎｓｔｒｕｃｔｉｎｇ ｍｏｄｅｌ ｉｓ ｌｅａｒｎｉｎｇ ＨＭＭ ｓｔｒｕｃｔｕｒｅ ａｎｄ ｐａｒａｍｅｔｅｒ ｅｓｔｉｍａｔｉｏｎ． Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ｍｅｔｈｏｄ ｈａｓ ｂｅｔｔｅｒ ｐｅｒｆｏｒｍａｎｃｅ ｔｈａｎ ｏｔｈｅｒ ａｐ－ ｐｒｏａｃｈｅｓ ｆｏｒ ｅｖｅｎｔ ｅｘｔｒａｃｔｉｏｎ ｆｒｏｍ Ｃｈｉｎｅｓｅ ｔｅｘｔｓ． Ｋｅｙ ｗｏｒ ｄｓ： ｈｉｄｄｅｎ Ｍａｒｋｏｖ ｍｏｄｅｌ； ｅｖｅｎｔ ｉｎｆｏｒｍａｔｉｏｎ ｅｘｔｒａｃｔｉｏｎ； ｔｒｉｇｇｅｒ； ｅｖｅｎｔ ａｒｇｕｍｅｎｔ
学院院长一职。 ”中 事 件 要 素 人 物 ： 赵 启 正 前 面 的
“原 国 务 院 新 闻 办 公 室 主 任 ” 在 这 里 由 前 缀 状 态 输
出， 显然这不是一个前缀状态可以完成的。在文中
进 行 模 型 结 构 优 化 时 采 用 了 和 文 献 ［５］类 似 的 方 法 。
首先从最简单的模型结构开始 （ 如图 １ 中上图所
收稿日期： ２００７－ ０６－ ０２ 基金项目： 教育部博士点基金项目（ ２００５０００７０２３）
触发词是能够很好地表述出某类事件中心意义的 词。例如 ， 职务变动事件中的 “任 命 ”、“辞 职 ”等 词 语。（ ３） 基于概率统计模型的文本信息抽取。文献［４］ 用 一 个 隐 马 尔 可 夫 模 型 （ Ｈｉｄｄｅｎ Ｍａｒｋｏｖ Ｍｏｄｅｌ， ＨＭＭ） 对计算机科研论文头部信息的所有域进行抽 取 ； 文 献［５］使 用 随 机 优 化 技 术 动 态 选 择 最 合 适 的 ＨＭＭ 模型从研讨会公告中抽取相关信息。虽然将 统计模型用于本中信息抽取的研究很多， 但和文中 所述的文本事件信息抽取是有区别的。因为这些研 究中待抽取的数据域都可以看成一个非常紧凑的 序列， 而文本中事件的表述往往并不具备这种特 征， 需要抽取的数据域是分散的、稀疏的， 有的待抽 取域甚至距离事件表述中心（ 可以看作是触发词所 在的位置） 有一定的距离。
中图分类号： ＴＰ３９１
文献标识码： Ａ
文章编号： １０００－ ７１８０（ ２００７） １０－ ００９２－ ０３
Ｅｖｅｎｔ Ｉｎｆｏｒ ｍａｔｉｏｎ Ｅｘｔｒ ａｃｔｉｏｎ ｆｒ ｏｍ Ｃｈｉｎｅｓｅ Ｔｅｘｔ Ｂａｓｅｄ ｏｎ Ｈｉｄｄｅｎ Ｍａｒ ｋｏｖ Ｍｏｄｅｌｓ
ＹＵ Ｊｉａｎｇ－ｄｅ１， ２， ＸＩＡＯ Ｘｉｎ－ｆｅｎｇ１， ＦＡＮ Ｘｉａｏ－ｚｈｏｎｇ２
（ １ Ｓｃｈｏｏｌ ｏｆ Ｃｏｍｐｕｔｅｒ ａｎｄ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ， Ａｎｙａｎｇ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ， Ａｎｙａｎｇ ４５５０００， Ｃｈｉｎａ； ２ Ｓｃｈｏｏｌ ｏｆ Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ， Ｂｅｉｊｉｎｇ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｔｅｃｈｎｏｌｏｇｙ， Ｂｅｉｊｉｎｇ １０００８１， Ｃｈｉｎａ）
第二阶段的机理可以描述为： 为每类待抽取的 事件要素构建一个 ＨＭＭ 模型， 例如： 职务变动事件 抽取中， 对时间、人物、组 织 机 构 、职 位 分 别 构 建 四 个独立的 ＨＭＭ 模型。候选事件语句中的词语作为 这些 ＨＭＭ 模型中状态的输出符号， 如果模型给定， 那么事件抽取过程就是搜索最可能创建词语序列 的状态序列。用于事件抽取的 ＨＭＭ 模型结构应该 能反映待抽取域的内容和它的上下文特征。为了实 现 正 确 的 事 件 抽 取 ， 一 般 引 入 四 种 类 型 的 状 态［５］： （ １） 目标状态： 可分为多个状态， 用于对目标短语进 行建模。（ ２） 前缀状态： 前缀包含一个或多个状态， 这些状态被连接成字符串， 一个前缀状态仅仅转移 到位于该字符串中的下一个状态， 或者如果它是该 字符串的最后一个状态， 则它转移到目标状态。（ ３） 后缀状态： 后缀状态在结构上类似于前缀。（ ４） 背景 状态： 背景状态主要是对没有被其它类型状态建模 的任何文本建模。图 １ 示意了用于事件抽取的两个 ＨＭＭ 模型结构。 ２．２ 模型结构学习和参数估计
９２
微电子学与计算机
２００７ 年第 ２４ 卷第 １０ 期
基于隐马尔可夫模型的中文文本事件信息抽取
于江德 １， ２， 肖新峰 １， 樊孝忠 ２
（ １ 安阳师范学院 计算机与信息工程学院， 河南 安阳 ４５５０００； ２ 北京理工大学 计算机科学技术学院， 北京 １０００８１）
摘 要： 提出了一种基于隐马尔可夫模型的中文文本事件抽取方法， 该方法首先通过触发词探测从文本中发现
ｋ＝１
式中， Ｃｉ， ｊ 是训练序列中， 从状态 ｓｉ 转移到状态 ｓｊ 的 次数。
ｂｉｋ＝
Ｃｉ， ｋ
Ｎ
，
１≤ｉ≤Ｎ， １≤ｊ≤Ｍ
（ ３）
!Ｃｉ， ｊ
ｋ＝１
式中， Ｃｉ， ｋ 是训练集中， 从状态 ｓｉ 输出词语 ｏｋ 的次
件语句范围的办法进行了比较。依次分别记为 Ｄ＿Ｔｒｉｇｇｅｒ 和 Ｆｕｌｌ＿Ｓｔｏｐ。两种办法在四类事件要素上 的抽取性能比较如图 ２ 所示。可以看出， 方法（ ２） 确 定的语句范围下抽取性能要稍微好点。
态转移概率和输出概率如下：
πｉ ＝
Ｃ（ Ｘ１ ＝ｓｊ ）
Ｎ
， １≤ｉ≤Ｎ
（ １）
!Ｃ（ Ｘ１ ＝ｓｉ ）
ｊ＝１
式中， Ｃ（ Ｘ１＝ｓｉ） 是训练语料中， 以 ｓｉ 为初子学与计算机
２００７ 年第 ２４ 卷第 １０ 期
ａｉｊ＝
Ｃｉ， ｊ
Ｎ
， １≤ｉ， ｊ≤Ｎ
（ ２）
!Ｃｉ， ｋ
３ 实验及结果分析 ３．１ 触发词词表构建
实 验 中 用 于 进 行 “职 务 变 动 ”类 事 件 抽 取 的 触 发词表采用手工的方式构建， 在构建过程中参照第 ３．２ 节所提及的真实语料， 并借助于 《现代汉语词 典》和《同义词词林》， 构建出的触发词表包含了 １３６ 个职务变动类事件的触发词。 ３．２ 训练和测试数据集
文中提出的事件抽取方法分两个阶段： 第一个 阶段是通过触发词探测发现候选事件所在的语句。 第二阶段是利用 ＨＭＭｓ 从 候 选 事 件 语 句 中 抽 取 事 件要素。
在第一阶段， 依据触发词表当在文本中探测到 触发词时， 就认定该触发词所在的语句表述了一个 特定事件， 该语句就是一个候选事件语句。该语句 的上下文范围有两种确定办法： （ １） 通常情况下， 上 下文的选取是基于核心词左右一定范围进行的， 文 献［６］对自然语言处 理 中 词 语 的 有 效 范 围 进 行 了 定 量研究， 认为汉语核心词最近距离［－ ８， ＋９］位置之间 的上下文范围能包含 ８５％以上的信息量， 文中将触 发词作为核心词； （ ２） 触发词前后最近的两个句号 之间的语句。最后对候选事件语句进行预处理， 包 括分词、词性标注、过滤停用词等。