关系提取总结-1

2022-08-09  本文已影响0人  逍遥_yjz

信息抽取是NLP领域的一个经典任务了，如何从不同来源的自然语言文本中提取真实可用的“知识”，并保证这些“知识”通常是清楚的、事实性的信息，是当今信息抽取领域的一个难点。

信息抽取三个最重要/最受关注的子任务：

属性一般的形式是（实体，属性，属性值），关系的一般形式是（实体，关系，实体）。简单来区分的话，关系涉及到两个实体，而属性只有一个实体。
不过呢，属性和关系的提取是可以相互借鉴的。下面以关系抽取为出发点，从算法、数据集、评价指标、比赛这几个方面给大家介绍关系抽取的相关知识。

信息抽取任务，更精确地说是“三元组”抽取任务，示例数据如下：

{
  "text": "九玄珠是在纵横中文网连载的一部小说，作者是龙马",
  "spo_list": [
    ["九玄珠", "连载网站", "纵横中文网"],
    ["九玄珠", "作者", "龙马"]
  ]
}

就是输入一个句子，然后输出该句子包含的所有三元组。其中三元组是(s, p, o)的形式，它的s是subject，即主实体，为query中的一个片段；而o是object，即客实体，也是query中的一个片段；而p是predicate，即两个实体之间的关系，业务方会事先给出了所有的候选predicate列表（schema，一共50个候选predicate）。总的来说，(s, p, o)可以理解的“s的p是o”。

一个“一对多”的抽取+分类任务，通过对人工观察样本情况，发现其特点如下：

1、s和o未必是分词工具分出来的词，因此要对query做标注才能抽取出正确的s、o，而考虑到分词可能切错边界，因此应该使用基于字的输入来标注；

2、样本中大多数的抽取结果是“一个s、多个(p, o)”的形式，比如“《战狼》的主演包括吴京和余男”，那么要抽出“(战狼, 主演, 吴京)”、“(战狼, 主演, 余男)”；

3、抽取结果是“多个s、一个(p, o)”甚至是“多个s、多个(p, o)”的样本也占有一定比例，比如“《战狼》、《战狼2》的主演都是吴京”，那么要抽出“(战狼, 主演, 吴京)”、“(战狼2, 主演, 吴京)”；

4、同一对(s, o)也可能对应多个p，比如“《战狼》的主演和导演都是吴京”，那么要抽出“(战狼, 主演, 吴京)”、“(战狼, 导演, 吴京)”；

5、极端情况下，s、o之间是可能重叠的，比如“《鲁迅自传》由江苏文艺出版社出版”，严格上来讲，除了要抽出“(鲁迅自传, 出版社, 江苏文艺出版社)”外，还应该抽取出“(鲁迅自传, 作者, 鲁迅)”。

关系提取方法

基于模板

这种方法比较简单，一般都是根据先验知识设计一些模式，然后在语料中匹配这些模式。举几个例子：

这里的 XX YY 和 ZZ 自然就是前一步识别出来的实体了。

相关资源包括：

基于句法分析

主要是找到主谓宾，一般都是在句法分析的基础上进行的。举几个例子：

其中，SBV 是主谓关系，VOB 是动宾关系，ATT 是定中关系。

相关资源包括：

基于机器学习

使用基本步骤如下：

标准流程：

特征：

之前那篇笔记里涉及的比较全面，而且现在几乎都是结合深度学习模型做了，这块就不再赘述了。

相关资源：

基于深度学习

一般包括两种做法：Pipeline 和 Joint model，前者就是把实体识别和关系分类分开；后者一起做。

特征一般是基于 Word embedding，Position embedding，POS，NER，WordNet；模型一般都是基于 CNN，RNN。

从论文的趋势看，端到端相对主流一些，不过对于我们的需求来说，关系分类更适合些。更多相关论文和模型可以进一步阅读 NLP-progress/relationship_extraction，这里就不贴那些论文的东西了。

基于半监督

半监督是利用少量高精度的 pattern 种子或种子 tuple 来 bootstrap 一个分类器。具体而言，在大规模语料中查找包含已有 pattern 实体对的句子，然后提取和归纳实体的上下文来学习新的 pattern。

还是举个栗子，比如我们有一个种子 tuple：（Queen，创作了，波西米亚狂想曲），然后可能找到了这些句子：

进而可以提取出类似这样的一些 pattern：

这些 pattern 又可以进一步寻找新的 pattern（把艺人和歌曲替换掉）。最终算法如下：

function BOOTSTRAP(Relation R) returns new relation tuples
    tuples←Gather a set of seed tuples that have relation R
    iterate
        sentences←find sentences that contain entities in tuples
        patterns←generalize the context between and around entities in sentences
        newpairs←use patterns to grep for more tuples
        newpairs←newpairs with high confidence
        tuples←tuples + newpairs
    return tuples

Bootstrapping 系统会给新的 pattern 一个置信度以避免语义飘移。比如 “在演唱会现场粉丝的要求下，周杰伦不得不演唱了一首网络歌曲《学猫叫》”，（周杰伦，演唱，学猫叫）显然不是我们想要的。关于置信度的计算可以参考上面提到的笔记，对一个 pattern 主要考量两方面因素：pattern 在现有 tuple 上的 hits 和在整个 Documents 上的 finds。

基于远程监督

远程监督从大规模数据库中获取的大量种子中产生出许多带噪声的 pattern features，然后用一个分类器组合这些 pattern。

举个栗子，比如要学习 “出生地-出生日期” 关系，半监督的方法中，我们可能只有少量几个启动的种子，但是现在我们可以在 Wikipedia-based 数据库（比如 DBPedia 或 Freebase） 中获取大量包含 “出生地-出生日期” 的 tuple，比如（<Albert Einstein, Ulm>, <Hubble, Marshfield> 等等）。然后用命名实体工具提取包含两个实体并 match 给定 tuple 的句子：

可以从中提取训练集，一个训练实例对应一个（关系，实体1，实体2）。

接下来可以用基于特征的分类器或直接使用神经网络分类器（不需要构建特征）。对于前者，可以从多个方面构建特征，比如实体 label，实体间单词、路径，相邻词等。每个 tuple 包括多个训练实例的特征，每个实例又可以从多个句子中获取词法和句法特征。最终的算法如下：

function DISTANT SUPERVISION(Database D, Text T) returns relation classifier C
    foreach relation R
        foreach tuple (e1,e2) of entities with relation R in D
            sentences←Sentences in T that contain e1 and e2
            f←Frequent features in sentences
            observations←observations + new training tuple (e1, e2, f, R)
    C←Train supervised classifier on observations
    return C

最终的分类器将会根据特征发现关系。

基于无监督

无监督关系提取的目的就是在没有标注数据，甚至没有任何关系列表的情况下从 Web 或大规模语料中提取关系。这个任务一般叫 open information extraction 或 Open IE，关系通常都是几个单词（常以动词开头）。

ReVerb 系统从一个句子中提取关系一般包括四步：

分类器是在 1000 个随机选择的句子上训练所得，首先提取关系，然后人工标注是否正确，最后训练分类器。使用到的一些特征如下（将提取到的关系及周围的词作为特征）：

(x,r,y) covers all words in s
the last preposition in r is for
the last preposition in r is on
len(s) ≤ 10
there is a coordinating conjunction to the left of r in s
r matches a lone V in the syntactic constraints
there is preposition to the left of x in s
there is an NP to the right of y in s

小结

方法 优点 缺点
模板 精准高，领域内可定制 召回低，耗时耗力
句法分析 构建简单 召回低，与句法结果相关
机器学习 数据相关时精准较高 特征工程较复杂，数据标注成本较高，训练数据敏感
深度学习 数据相关时精准高，泛化能力较好 数据标注成本很高，训练数据敏感
半监督 Bootstrapping 成本低，可以发现新关系 对初始种子敏感，语义飘移，准确率低
远程监督 精准高，训练数据不敏感，无语义飘移 依赖已有数据库
无监督 成本很低，容易实现 需转为权威格式存储，动词为中心的局限性

比赛

比赛最有名的大概就是 SemEval 2018 Task 10 和 SemEval-2010 Task 8 了。前者是一个二分类任务，目的是识别给定属性能否区分两个给定的概念。

ATTRIBUTE CONCEPT1 CONCEPT2 LABEL
bookcase fridge wood 1
bucket mug round 0
angle curve sharp 1
pelican turtle water 0
wire coil metal 0

后者是关系分类任务，给定两个标记的 nominals，预测它们的关系和关系的方向。

There were apples, pears and oranges in the bowl.

`(content-container, pears, bowl)```

数据集

除了上面的两个比赛的数据集，还有以下一些数据集：

评价方法

评价指标还是以 F1 为主：

上一篇下一篇

猜你喜欢

热点阅读