当前位置:文档之家› 中文命名实体识别及关系提取ppt课件

中文命名实体识别及关系提取ppt课件


主 PSsuf B O
席 PSsuf E O
1) 训练时间过长,内存消耗过大。 如果训练在可接受 的时间内,增大训练语料比多增加分词信息有效得多。
2)分词和命名实体标注可以映射为一列,没必要增加一 个维度。比如"主 PSsuf O-B"。实验数据显示,性能没 有任何变化。
如何获得词缀信息
1)从训练语料中抽取所有的命名实体,然后计算频率, 然后抽取所有词的后缀,然后计算频率,取频率高的。
例子
1 0 [-] [.*|地处/v|.*] [-] 1 0 [-] [.*|位于/v|.*] [-] 1 0 [-] [.*|坐落/v|.*] [-] 1 0 [-] [.*/v|在/p] [-] 1 0 [-] [.*|地址/n|是/v] [-] 1 2 [-] [-] [.*|报道/v|.*/w] 1 2 [-] [-] [.*|讯/v|.*/w] 1 2 [-] [-] [.*|电/v|.*/w]
存在的问题
命名实体识别:命名实体有很多都识别了,但是无法准 确定位一个完整的命名实体,比如“三峡坝区”
命名实体识别:外国人名
关系提取:上下文匹配的办法还比较幼稚,个人认为如 果有一个标注的训练语料的话,如果可以统计词频,确 定关键词。
Thanks
Any Other Quentions???
关系识别
Located-in关系: 穷举任意两个在一篇文章中出现的命名实体,然后判断 他们是否是Located-in关系。
判断标准: 1)如果一个地点实体(NS)是一个组织(NT)的模糊 前缀。比如“上海市” “上海大白兔有限公司” 2)一个地点后紧接着一个组织,“上海市” 的"大白兔 有限公司" 3) 在上下文中有关键词匹配成功 4)NT中内含NS,“上海市闵行区派出所”
如何匹配上下文
在没有标注语料的情况下,采用了自定义规则,因为从 训练语料来看,新闻题材中需要上下文匹配的情况较少 ,而且特点比较一致。
匹配的上下文形式化: 作用方向:是NS在前,NT在后,还是反之。 作用域:0:一个句子,不可有其他实体打断
1:NS之后全文 (新华社北京讯) 2:NS之前全文 (记者北京报道) 上文,中间,下文:正则表达式,上下文只用一个窗口 ,中间的文字去掉无用词,只保留名词和动词。
0 1 [.*/w|.*] [讯/v|.*/w|.*] [-] 0 1 [.*/w|.*] [报道/v|.*/w|.*] [-] 0 1 [.*/w|.*] [电/v|.*/w|.*] [-]
Founder关系
方法和Located-in关系抽取中上下文匹配的方式相同。
实际情况中,Founder关系一定是要有关键词提示的。 比如:Bill Gates创办了微软公司 【中文中有关键词】
935/1178 891/935
NS
82.5%
89.8%
86.0%
1331/1613 1180/1331
NT
85.1%
91.2%
88.0%
537/631 485/537
一些问题
为什么没有在标记集中加入分词信息的一列
Example:江 PSsur B B nr-B
泽 UN
B1 nr-B1
民 UN
E nr-E
关于提取地点的核心词
如果一个地点只有一个词,那么去掉它的可以忽略的后 缀,所有可以忽略的后缀以字典形式存在一个文件中。 “上海市”==》“上海” 如果一个地点实体由多个词组成,那么提取它的词性, 然后取最后一个NS,然后判断后缀是否可忽略,如果可 忽略返回最后的NS,否则返回最后的NS+后缀 “上海/NS浦东/NS机场/N”==》“浦东机场” “香港/NS特别/a行政区/N”==》“香港”
测试结果
测试方法: 将训练集拆分,80%用于训练 ,20%用于测试(200篇左右) 测试结果:
NR
NS
NT
Recall Precision F-score
81.6% 92.6% 86.7% 961/1178 884/961
84.4% 88.8% 86.6%
1362/161 1190/136
3
2
Bill Gates是微软之父【后文中有关键词】
Employee关系
大多数Employee关系的关键词不是动词而是变化多端的 职位 Example:中共中央总书记胡锦涛
微软CEO鲍尔默
识别方法:1)提取NT和NR之间的关键名词,作用域是 一个句子中不可打断,除了并列举例的人名。
2)采用一个字典匹配,检查之间是否有职位
中文命名实体识别及关系提取
*** *** ***
中文命名实体识别
语料:人民日报1998年版
主要方法:根据训练预料,利用CRF进行机器学 习
中文命名实体识别
标注集1:由字构词 将{ ns,nr,nt}三种实体类型,和分词中的词位信息
{B,B1,B2,M,E,S}做组合,其它字标记为O Example:
85.2% 90.7% 87.9%
538/631 483/538
校正
考虑到没有充分利用分词结果
Error:"{张牙舞/nr}爪" ===》利用 分词结果可以校正
校正方法:如果命名实体不是由完 整的几个词组成的,判错
校正结果:
Recall
Precision F-score
NR
79.3%
95.5%
86.7%
2)手动检查是否添加了无用的后缀,比如“上海市”在 训练语料出现很多次,提取后缀会出现“海市”为一个 高频率后缀,这些需要特殊处理。
其பைடு நூலகம்问题
为什么没有引入词性信息? 1)一般的词性标注的准确率在90%左右,而且人民日报 语料的标注词性比较多,有40+种,准确率要比90%低一 些。 2)命名实体的准确率在90%以上,已经比词性标注要高 了。 3)对于命名实体的Recall提升的话,词性标注没有明显 的帮助办法,换句话说词性对于判错还有些用,但是对 于Recall只会降低。
相关主题