中科院自动化所陈玉博:事件抽取与金融事件图谱构建

以下为陈玉博老师演讲《事件抽取与金融事件图谱构建》内容节选

陈玉博:大家好,我是中国科学院自动化所的陈玉博,很高兴能和大家分享事件抽取和金融事件图谱构建方向的一些探索。

现在互联网信息呈爆炸性增长,据中国互联网中心2018年发布的数据显示,截止到2017年12月,网民规模达到了7.72亿,网页总数也超过了2600亿。如何快速地去获取海量信息当中所需要的知识,尤为重要。

随着需求的产生,信息抽取技术也获得了进一步发展。

如鲍捷博士刚才提到,通过语义注释,可以把非结构化的文本转变成结构化的文本,构建大规模的知识图谱,就能把很多计算机不理解的东西,变成计算机所理解的东西,进而辅助我们的工作。

信息抽取技术包括实体抽取、关系抽取和事件抽取三个重要部分,今天我主要分享事件抽取。

维特根斯坦在《逻辑哲学论》当中就说“世界是所有事实,而不是事物的总和”,其实就是说事实在现实世界当中的表现就是一个一个的事件。一个事件会涉及到多个事物,而事物其实就是刚才鲍捷博士所说的实体,有可能是人、机构,或者是各种物件。

其实很多行为学家还有认知学家认为,我们是以事件为单位去认知和体验世界的。

比如我们一说到地震,就会有可能想到震中、时间、地点,当然也会想到它的一些子事件,比如抗震救援,但是也不能一刀切,实体和关系在我们脑海当中也是存在的。

我们可以把实体和事件看作两类,实体是一种静态的,而事件偏动态。在金融领域,这两个方向应该都关注。

构建一个事件图谱能丰富现有的以实体为核心的知识图谱。除此之外,它能支撑很多信息检索,比如说问地震遇难人数,它能给一个具体的数。另外还可以对一个企业或者是一支股票进行很多事件的监控。

事件图谱构建关键:事件抽取以及事件关系抽取

如何定义一个事件呢? 事件起源于认知科学,常常在哲学、语言学、计算机科学等领域被广泛讨论。但遗憾的是目前对事件还没有统一的定义,在不同领域,针对不同的应用,不同的人对事件有不同的描述。

知识图谱领域,事件是发生在某个特定的时间点或时间段、某个特定的地域范围内,由一个或者多个角色参与的一个或者多个动作组成的事情或者状态的改变

基于定义,我们在建模的时候就有几点需要注意。

首先就是不同动作或者状态的改变是不同类型的事件,就比如说奥巴马上任和奥巴马离任这都是两个类型的事件。

同一类型的事件中不同的元素代表了不同的事件,比如奥巴马上任和特朗普上任,这是两个事件。

同一个类型的事件中不同粒度的元素代表不同粒度的事件。事件之间其实有很多关系,其中子事件就是一个比较有代表性的,同样是战争类型的事件,持续的时间或者元素的粒度不一样,就有二战、抗日战争和淞沪会战之分,它们是不同粒度的事件。

构建一个事件图谱有两项关键技术,第一是事件抽取,第二是事件关系抽取。

事件抽取分两个步骤:第一步就是事件的发现和抽取,第二个是事件元素的抽取。事件发现是你要让计算机知道读完这一句话,是哪一个词触发了这个类型的事件并且判断它触发什么类型。

然后是事件元素抽取,就是说你要让计算机判断出参与这个事件所有的元素是什么,并且它们在这个事件当中扮演一个什么角色,比如说美团和大众点评合并这样一个事件,其实它描述的就是一个公司合并事件。美团和大众点评在这里就是两个参与者了,10月8日就是合并事件发生的时间,这是我们希望计算机能自动从文本当中提取出来的。

另外一个就是事件关系抽取,事件关系给大家介绍四类:共指,时序,因果和子事件。

共指。比如说一个事件你会有不同的新闻来源,去描述它不同的侧面,如果识别出这些不同的描述,描述的都是同一个事件,就能判断这是共指关系,这样你就能从各个角度全方位地去认识这个事件,并且追踪这个事件。

因果。有了因果关系以后,就可以做很多风控或者是预测。比如日本大地震导致了海啸,最后导致了核泄露。类似这样的因果关系能对风控和预测有参考价值。

时序。你只要把一个事件结构化,就有时间信息,时序就比较清晰了。

还有一个就是子事件。

事件图谱在金融领域的应用

了解了事件的建模、事件图谱的关键技术之后,接下来给大家讲讲我们在金融领域做的尝试——篇章级金融事件抽取。主要解决的问题是如何从金融公告当中抽取出结构化的事件信息,比如说抽取出冻结、质押、增减持等公告。

先说说两大挑战,一个是篇章级的抽取,一个是标注数据的缺失。

学术界的研究和真实场景的应用之间存在一些区别。学术界做的大多数是国际上公开定义的任务,给你一个句子,你抽取它触发了什么类型的事件,更多体现出实验的思维,控制变量。但是真实场景要求你从公告或者是一个研报这样篇章级别的文件中去抽取一个结构化的事件,通常由多个句子描述一个事件,一个事件的多个元素分布在不同的句子中,不确定性加大,难度加大。

另外一个问题,现有的事件抽取系统性能都依赖于人工标注数据,现在没有一份公开做这个任务的语料,人工标注数据耗时费力,成本高昂,金融领域缺乏大规模高质量的标注数据。没有这样的语料很难去做这件事情,所以我们也是在原来所有工作的基础之上,做了一些改进,在金融领域做了一个简单的尝试。

针对这两个挑战,我们做了两个任务,第一个就是自动生成标注数据,利用现有的一些结构化的事件信息,然后去公开文档当中自动生成标注数据。

有了数据以后,我们还要做一个篇章级的抽取。

先做一个句子级的抽取,采用一个序列标注的模型,双向LSTM+CRF。但很多情况下一个事件是由篇章当中的不同句子去描述的,你需要从不同的句子当中抽取出来对应的元素,去构成一个这样的一个完整事件,那么你就要从多句话当中,识别出来哪个是主句,这个是用一个 CNN 分类的模型去做的,模型中不仅考虑了文本特征,还同时考虑了对于那个句子分析的结果。找到主句以后,这一个主句有可能描述得不全面,你又从它上下文档中,把对应的角色给补齐。

我们针对冻结、回购、增减持,还有质押这四个事件类型做了一个简单的实验,在我们比较擅长的句子级事件领域,平均做到了大概 F 值 90% 左右,但是如鲍老师所说,其实这个 90%多的性能的系统到实际应用,还需要大量的工程和工业界的努力。

我们开发了一个demo系统,可以对全篇公告进行分析,首先针对每个句子进行分析,分析结果示如demo页面1。

分析完以后,找到主句,然后再上下文补齐,例如图片中的例子中整篇公告描述的是一个冻结的事件,但是主句子只描述了4个角色,而完整的冻结事件至少要提取6个角色,主句中缺乏的是起始和结束时间,这两个元素需要从别的句子当中补齐,最终结果如demo页面2所示。

简单总结一下,其实事件知识在知识图谱以及很多智能应用当中都是不可缺少的。在金融领域,比如企业信息监控、风险信用控制和智能投顾等方面都能发挥积极作用。

在通用领域的事件抽取其实是很难的,难在大规模、高质量的训练数据的缺失,还有鲁棒特征的提取。相比较而言,在限定领域,尤其是金融领域的事件抽取,是有可能取得不错的效果的,在限定领域,它的文本类型受限,语言表述的规律性也比较强,而且它是知识密集型的。目前在金融领域的实践中已经证明能够替代部分人工,提取的精确度能随着样本量的增加以及算法的优化而不断提高,可用性程度会进一步扩大,事件抽取以及事件图谱的构建在金融领域的影响力也必将不断增强。

文因互联
文因互联

当人工智能遇见金融

理论事件抽取陈玉博中科院自动化所
2
相关数据
信息检索技术

信息检索(IR)是基于用于查询检索信息的任务。流行的信息检索模型包括布尔模型、向量空间模型、概率模型和语言模型。信息检索最典型和最常见的应用是搜索引擎。

知识图谱技术

知识图谱本质上是语义网络,是一种基于图的数据结构,由节点(Point)和边(Edge)组成。在知识图谱里,每个节点表示现实世界中存在的“实体”,每条边为实体与实体之间的“关系”。知识图谱是关系的最有效的表示方式。通俗地讲,知识图谱就是把所有不同种类的信息(Heterogeneous Information)连接在一起而得到的一个关系网络。知识图谱提供了从“关系”的角度去分析问题的能力。 知识图谱这个概念最早由Google提出,主要是用来优化现有的搜索引擎。不同于基于关键词搜索的传统搜索引擎,知识图谱可用来更好地查询复杂的关联信息,从语义层面理解用户意图,改进搜索质量。比如在Google的搜索框里输入Bill Gates的时候,搜索结果页面的右侧还会出现Bill Gates相关的信息比如出生年月,家庭情况等等。

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

信息抽取技术

信息/数据抽取是指从非结构化或半结构化文档中提取结构化信息的技术。信息抽取有两部分:命名实体识别(目标是识别和分类真实世界里的知名实体)和关系提取(目标是提取实体之间的语义关系)。概率模型/分类器可以帮助实现这些任务。

推荐文章
暂无评论
暂无评论~