陈运文作者

达观数据:综述中英文自然语言处理的异和同

人类经过漫长的历史发展,在世界各地形成了很多不同的语言分支,其中汉藏语系和印欧语系是使用人数最多的两支。英语是印欧语系的代表,而汉语则是汉藏语系的代表。中英文语言的差异十分鲜明,英语以表音(字音)构成,汉语以表义(字形)构成,印欧和汉藏两大语系有很大的区别。

尽管全世界语言多达 5600 种,但大部数人类使用的语言集中在图中的前 15 种(覆盖全球 90% 以上人群)。其中英语为母语和第二语的人数最多,近 14 亿人,是事实上的世界通用语。其次是汉语,约占世界人口的 23%。英语和汉语相加的人数占世界总人数的近一半,因此处理中英文两种语言非常关键。

人工智能时代,让计算机自动化进行文字语义理解非常重要,广泛应用于社会的方方面面,而语言本身的复杂性又给计算机技术带来了很大的挑战,攻克文本语义对实现 AI 全面应用有至关重要的意义。相应的自然语言处理(Natural Language Processing,NLP)技术因而被称为是「人工智能皇冠上的明珠」。

中国和美国作为 AI 应用的两个世界大国,在各自语言的自动化处理方面有一些独特之处。接下来笔者对中文和英文语言特点的角度出发,结合自己的从业经验来归纳下两种语言下 NLP 的异同点。(达观数据陈运文

一、中英文分词方式不同

分词是中英文 NLP 差异最广为人知的一点。我们都知道英文的单词之间天然存在空格来分隔,因此在进行英文文本处理时,可以非常容易的通过空格来切分单词。例如英文句子:

DataGrand is a Chinese company

可轻松切分为 DataGrand / is / a / Chinese / company(文本用/表示词汇分隔符)。

中文在每句话中间是不存在分隔符的,而是由一串连续的汉字顺序连接构成了句子。现代汉语里表达意思的基本语素是词而不是字。例如「自然」,拆为「自」和「然」都不能单独表意,两个字合并组成的词才能有准确的意义,对应英文单词是 Nature。因此在我们使用计算机技术对中文进行自动语义分析时,通常首要操作就是中文分词(Chinese Word Segmentation)。中文分词是指按人理解汉语的方式,将连续的汉字串切分为能单独表义的词汇。例如中文句子:

达观数据是一家中国公司。」

让计算机来处理,第一步需要切分为「达观数据/是/一家/中国/公司」这样的词串的形式,然后再进行后续的理解和处理。

如何正确的根据语义完成中文切分是一个挑战性的任务,一旦切词发生失误,会导致后续的文本处理产生连锁问题,给正确理解语义带来障碍。为了快速准确的切分好中文,学术界迄今有超过 50 年的研究,提出了很多方法。中文切词常见方法里既有经典的机械切分法(如正向/逆向最大匹配,双向最大匹配等),也有效果更好一些的统计切分方法(如隐马尔可夫 HMM,条件随机场 CRF),以及近年来兴起的采用深度神经网络的 RNN,LSTM 等方法。

由于汉语语法本身极为灵活,导致歧义语义时常发生,给正确完成中文分词带来了很多障碍。如例句「严守一把手机关了」所示,按照语义理解,正确切分方式为「严守一/把/手机/关了」,而算法有误时容易切分为「严守/一把/手机/关了」。

更困难的是,有些时候两种切词方法意思都对,例如「乒乓球拍卖了」,切分为「乒乓/球拍/卖了」和「乒乓球/拍卖/了」本身都可行,必须要依赖更多上下文来选择当前正确的切分方法。类似的还有「南京市长江大桥」、「吉林省长春药店」等等。如果把「市长」「省长」等切出来,整句话的理解就偏差很多了。常见歧义类型包括交叉歧义(Cross Ambiguity)和组合歧义(Combination Ambiguity)等,在语义消岐方面近年不断有国内外学者提出新的解决思路,来解决汉藏语系的这个特定问题。

此处顺便一提,和中文类似,日文句子内部同样缺乏天然的分隔符,因此日文也同样存在分词需求。日文受汉语语法的影响很深,但同时又受表音语法的影响,明治时代还曾兴起过废汉字兴拼音的运动,行文上汉字和假名混杂,好比中英文混血儿。业内比较知名的日文分词器有 MeCab,其算法内核是条件随机场 CRF。事实上,如果将 MeCab 的内部训练语料由日文更换为中文后,也同样可以用于切分中文。

随着深度学习技术近年来在 NLP 领域成功的应用,一些 seq2seq 学习过程可以不再使用分词,而是直接将字作为输入序列,让神经网络自动学习其中的特征,这在一些端到端的应用中(如自动摘要机器翻译文本分类等)确实省略了中文分词这一步骤,但是一方面还有很多的 NLP 应用离不开分词的结果,如关键词提取、命名实体识别、搜索引擎等;另一方面切分所得的词汇也可以和单字一起作为特征输入,用以增强效果。因此分词仍然是工程界进行中文处理时的一项重要技术。

二、英文语素和中文偏旁的使用

英文单词的提取虽然比中文简单的多,通过空格就能完整的获取单词,但英文特有的现象是单词存在丰富的变形变换。为了应对这些复杂的变换,英文 NLP 相比中文存在一些独特的处理步骤,我们称为词形还原(Lemmatization)和词干提取(Stemming)。

词形还原是因为英文单词有丰富的单复数、主被动、时态变换(共 16 种)等情况,在语义理解时需要将单词「恢复」到原始的形态从而让计算机更方便的进行后续处理。例如「does,done,doing,do,did」这些单词,需要通过词性还原统一恢复为「do」这个词,方便后续计算机进行语义分析。类似的:「potatoes,cities,children,teeth」这些名词,需要通过 Lemmatization 转为「potato,city,child,tooth」这些基本形态;同样「were,beginning,driven」等要转为「are,begin,drive」。请注意词形还原通常还需要配合词性标注(pos-tag)一起来进行,以确保还原准确度,避免歧义发生。因为英文中存在一些多义词的情况,例如 calves 就是个多义词,即可以作为 calf(名词,牛犊)的复数形式,也可以是 calve(动词,生育小牛)的第三人称单数。所以词形还原也有两种选择,需要按实际所表示的词性来挑选合适的还原方法。

词干提取(Stemming)是英文中另一项独有的处理技术。英文单词虽然是句子中的基础表义单元,但并非是不可再分的。英文单词内部都是由若干个词素构成的。词素又分为词根(roots)和词缀(前缀 prefix 或后缀 suffix),而词根的原形称为词干(stems)。例如单词 disability,dis-就是表示否定意思的常用前缀,-lity 是名词常用后缀,able 是表示「能力」的词干,这些词素合并在一起就构成了单词的含义。

英文的词素种类非常多(最常用的有 300 多个),很多源自拉丁语和希腊文。提取词素对理解英文单词的含义起着非常重要的作用,例如 semiannually 这个单词,可能有的朋友并不认识,如果通过词素来看:前缀 semi-表示「一半」的意思,词干 annul 表示年,-ly 是副词后缀,semiannually 这个单词的含义是「每半年进行一次的」。Ambidextrous,heterophobia,interplanetary,extraterritorial 等这些看着很复杂的词汇,通过拆解词干的方法能很方便的把握单词含义,对人类和对计算机来说都是如此。常见 Stemming 方法包括 Porter Stemming Algorithm, Lovins Algorithm 和 Lancaster(Paice/Husk) Algorithm。目前大部分英文 NLP 系统都包括词形还原(Lemmatization)和词干提取(Stemming)模块。(陈运文

相比英文,中文里是没有词干的概念的,也无需进行词干提取,这是中文 NLP 中相对简便的一块。但在中文里有一个相近的概念是偏旁部首。和英文中「单词不懂看词干」类似,中文里「汉字不识看偏旁」。例如「猴、狗、猪、猫、狼」这些汉字,显然都是动物名词。当出现汉字「狁」时,即使不认识也能通过部首「犭」猜出这是一个动物名称,且发音类似「允」字。再比如「木,林,森」这些字都和树木相关,数量还递增。「锁、锡、银、镜、铁、锹」都和金属有关。「采」字和手抓植物有关。「囚」字和「孕」字就更直观形象了。

借鉴英文中词干提取的方法,很多人自然会立刻想到:是否我们拆分中文汉字的偏旁部首,作为特征输入,也能更好的帮助计算机理解中文语义呢?学术界确实也有人做过此类尝试,但是整体收益都不像英文词干分析那么明显,这背后的原因是什么呢?笔者认为,其原因首先是常用汉字的数量远比英文单词要少,相比英文单词数量动辄数万计,加上各种前后缀和词形变换数量更多,中文汉字最常用的才过千个。因为字少,每个汉字的意思多,这些汉字的含义通过上下文来获取的语义描述信息足够充分,拆分偏旁后额外再能添补的信息作用非常小。即便对罕见字来说偏旁确实能额外补充特征,但因为它们在日常文本中出现频次太少,对整体文本语义理解的作用很有限,只有在一些专业性文书的应用上可能起少量帮助。

其次是汉字经过数千年的演化,再加上简化字的使用,很多字形和含义已经发生了巨大变化,偏旁未必能准确表达字的意思,甚至使用偏旁可能还会引入一些噪声特征。第三是现代汉语里表义的基本单元是多个汉字构成的词,而不是单字。这和英文中表义单元是单词完全不同。因此对单个汉字的偏旁处理对整个中文 NLP 起到的作用非常轻微,并未成为中文 NLP 里常用的做法。

三、词性标注方法的差异

词性是语言学的一个概念,根据上下文将每个词根据性质划归为特定的类型,例如 n. 名词 v. 动词 adj. 形容词 adv. 副词等就是最常见的几类词性。中英文的词性尽管整体相似,例如表达一个物品(如苹果 Apple,火车 Train)通常是名词,而描述一个动作(如跑步 Run,打开 Open)一般是动词,但在很多细节上存在差异。如果计算机能够对每个词汇的词性进行正确的识别,无疑对增强语义分析的效果有帮助(注:同样在 seq2seq 里词性并不必须,但是对词性的正确理解仍然有其特定价值)。

在 NLP 里有技术分支称为词性标注(Part-Of-Speech tagging, POS tagging),中英文各自有其特点。

其一是英文中有一些中文所没有的词性。这些词性大量存在,给语义理解带来了很好的指引作用。其中最典型的就是英文特有的两个词性:一是冠词,二是助动词。中文里没有冠词一说,在英文中冠词(Article,一般简称 art.)也是词性最小的一类,只有三个:不定冠词(Indefinite art.)、定冠词(Definite art.)和零冠词(Zero art.)。如英文中无处不在的单词「the」就是定冠词,the 后面通常会紧跟着出现句子的关键名词+介词短语。例如「Show me the photo of your company」,通过定冠词 the 的指示,很容易的定位本句话的关键实词是 photo。类似的,前面例句「DataGrand is a Chinese company」里「a」这样的不定冠词也可以很好的指示出宾语「company」。这些大量出现的冠词虽然是虚词,本身并没有明确含义,但在 NLP 中用于定位句子中的关键实词,判断实词种类(是否可数,是否专有名词等),进而识别出句法结构(后面还会详细介绍)等,起到了很大的指示作用,也降低了计算机进行语义理解的难度,因而这方面英文比中文有先天优势

助动词(Auxiliary Verb)也是英文特有的现象,助动词的作用是协助主要动词构成谓语词组,如 am, is, have, do, are, will, shall, would,should, be going to 等都是常见助动词,在英文句子中也大量存在,和冠词用于指示主语宾语类似,助动词对识别主要动词(Main Verb)和谓语会起帮助。

其次,英文在词性方面的划分和使用更严谨,词汇在变换词性的时候会在词尾形成丰富的变化。例如-ing、-able、-ful、-ment、-ness 等都对确认词性给出具体的提示。名词中还会进一步区分可数名词、不可数名词,在词尾用-s、-es 来区分。动词也同样会存在发生时态的指示,过去式,现在时,未来时等非常明确,因此在英文语法中几乎没有词性混淆不清的情况发生。

而中文的词性则缺乏类似英文这样的明确规范。中国著名的语言学家沈家煊先生在著作《语法六讲》中就曾提出「汉语动词和名词不分立」的观点,将确认汉语词性的问题描述为「词有定类」则「类无定职」,而「类有定职」则「词无定类」。和英文中名词、动词、形容词三大类词汇相互独立的「分立模式」不同,中文更类似「包含模式」,即形容词作为一个次类包含在动词中,动词本身又作为次类被名词包含,而且这个词性的转换过程非常微妙,缺乏表音语言中的前后缀指示。例如「他吃饭去了」中「吃饭」是动词,只需要句式稍加变换为「他吃饭不好」,此时「吃饭」就摇身一变成名词了。「热爱编程」、「挖掘数据」中,「编程」、「挖掘」等词,既可以是名词也可以是动词。形容词也有类似的情况,如「活跃」是个常见的形容词,常用句为「他表现非常活跃」。但有时也可以变身为动词「他去活跃气氛」,还能变为名词「活跃是一种行为习惯」。可见汉语语境的变化给词性带来非常微妙的变化。(陈运文

汉语没有英文的屈折变化的特点,不像英语能通过灵活的词尾变化来指示词性变化,汉语这种一词多性且缺乏指示的特点,给计算机词性标注带来了很大的困难,业界对词性的标准以及标准测试集也很不完善。很多具体词汇的词性甚至让人工来研读都模棱两可,让算法自动来识别就更难了。例如:「他很开心」、「他逗她开心」、「他开心不起来」、「他开心的很」、「开心是他很重要的特点」,这里「开心」的词性让人来判断都很难搞明白,甚至存在争议。而反观英语里一个词被标为动词还是名词几乎不存在争议。对这些模糊的情况,一些中文语料标注库里干脆用「动名词 vn」、「形名词 an」等来标记,搁置争议,模糊处理。

在目前中文 NLP 词性标注中,「名动形」糊在一起的特点仍然没有找到特别好的处理手段,也给后面的句法结构分析,词汇重要性判断,核心关键词提取等语义理解课题带来了干扰。

四、标点符号和字体特征

自然语言处理应用中,很容易被忽略的是标点和字体等信息的利用。尤其学术界研究核心算法时一般都会忽略这些「次要」信息,大部分学术测试集合干脆是没有字体信息的,标点也不讲究。但是在实际工程应用中,这些信息能起不小的作用。而英汉语在其使用方面也存在一些差异。标点(如?!:——。等)和字体(字母大小写,斜体,粗体等)虽然本身没有具体语义,但在辨识内容时起重要的引导作用。不妨让我们想像一下,如果把我这篇文章里所有标点、分段、标题字体等都去掉,让人来阅读理解本文内容,难度是不是立刻会加大很多?若是换成计算机来读那就更麻烦了。

在英语中(尤其是书面语中),逗号和句号的使用有明确规范,一句话结尾要求必须用句号符「.」,并且下一句话的第一个单词的首字母要求大写。英文中从句非常多,从句之间要求用逗号「,」连接,以表示语义贯通。不仅如此,当一句话的主谓宾完整出现后,如果下一句话也同样是一个完整句子,则两句话中间或者需要用连词(如 and, or, therefore, but, so, yet, for, either 等)连接,或者必须用句号「.」分割,如果中间用「,」且没有连接词,则属于正式文书中的用法错误。如:

The algorithms and programs,which used on the website, are owned by the company called DataGrand, and are well known in China.

这里出现的标点和大小写字体是良好的句子语义指示符,既分割不同句子,也在句子内部分割不同语义,这些规范给英文 NLP 处理创造了较好的环境。

中文标点的使用则没有这么强的规范。事实上中文标点在中国古代官方文书中一直不被采用,仅扮演民间阅读中的停顿辅助符的角色。直到 1919 年中华民国教育部在借鉴了西方各国标点规范后才第一次制定了汉语的 12 中符号和使用方法,建国后在 1951 年和 1990 年两次修订后逐步成型。因为历史沿革的原因,这些对标点的使用规范更多偏向于指导意见,而不是一套强制标准。例如对逗号和句号何时使用,并不像英语中有特别严格的界定。汉语的分句较为模糊,意思表达完以后虽通常用句号,但用逗号继续承接后面的句子也并不算错,只要整篇文章不是极端的「一逗到底」,即使语文老师在批阅作文时也都不会过分对标点较真,而日常文章中标点的使用更是随心所欲了。

与此同时,英文里专有名词用大写或者斜体字体来区分,首字母大写等用法,在中文中也不存在。NLP 处理中,中文标点和字体使用的相对随意给句法分析也带来了巨大的挑战,尤其在句子级别的计算机语义理解方面中文比英文要困难很多。

除了上述不利因素,中文也有一些独特的标点带来有利的因素。例如书名号《》就是中文所独有的符号,感谢这个符号!书名号能非常方便的让计算机程序来自动识别专有名词(如书名、电影名、电视剧、表演节目名等),这些名词往往都是未登录词,如果没有书名号的指引,让计算机程序自动识别这些中文专名的难度将加大很多,而这些专名词汇恰恰都体现了文章的关键语义。例如下面这段新闻如果让计算机来阅读:「由于流浪地球的内容很接近好莱坞大片,因此影评人比较后认为不仅达到了 2012 的水平,而且对比星际穿越也毫不逊色。」要求计算机自动提取上面这句话的关键词会非常困难,因为里面有很多未登录词,对「2012」的理解也会有歧义(时间词?or 电影名?)

而正因为我们中文有书名号,迎刃而解:「由于《流浪地球》的内容很接近好莱坞大片,因此影评人比较后认为不仅达到了《2012》的水平,而且对比《星际穿越》也毫不逊色。」。除了书名号,汉语的顿号(、)也能很好的指示并列关系的内容,「达观每天下午的水果餐很丰富,有桃子、葡萄、西瓜和梨」,这些并列的内容可以很方便的被计算机解读。

英文则没有书名号和顿号等,而是采用特殊字体(例如加粗、斜体、大写,各不相同,没有强制约定)等形式来标识出这些专有名词。因此在处理英文时,这些字体信息起很重要的作用,一旦丢失会带来麻烦。

值得一提的是,在日常聊天文字中,标点符号和字母使用的含义产生了很多新的变化。例如对话文本中「。。。。。」往往表达出「无语」的情绪。「?」和「???」前者是疑问,后者更多表达震惊。还有 :) \^o^/ ORZ 等各类的符号的变换使用,给开发对话机器人的工程师们带来了很多新的挑战。

五、词汇粒度的处理方法差异

词汇粒度问题虽然在 NLP 学界被讨论的不多,但的的确确 NLP 实战应用中的一个关键要点,尤其在搜索引擎进行结果召回和排序时,词汇粒度在其中扮演关键角色,如果对其处理不恰当,很容易导致搜索质量低下的问题。

我们先看中文,词汇粒度和分词机制有很大关系,先看个例子:「中华人民共和国」这样一个词,按不同粒度来切,既可大粒度切为:「中华人民,人民共和国」,也可进一步切出「中华,人民,共和国」,而「共和国」还可以进一步切为「共和,国」。一般我们把按最小粒度切分所得的词称为「基本粒度词」。在这个例子中,基本粒度词为「中华,人民,共和,国」4 个词。甚至「中华」还能继续切出「中/华」也有表义能力(这个后面还会详细分析)

为什么分词需要有不同的粒度呢?因为各有作用。大粒度词的表义能力更强,例如「中华人民共和国」这样的大粒度词,能完整准确的表达一个概念,适合作为文章关键词或标签提取出来。在搜索引擎中直接用大粒度词去构建倒排索引并搜索,一般可得到相关性(准确率)更好的结果。

但从事过信息检索的朋友们想必清楚召回率(Recall)和准确率(Precision)永远是天平两端互相牵制的两个因素。大粒度词在搜索时会带来召回不足的问题。例如一篇写有「人民共和国在中华大地上诞生了起来」的文章,如果用「中华人民共和国」这个词去倒排索引中搜索,是无法匹配召回的,但拆分为「中华人民 共和国」三个词进行搜索就能找出来。所以一个成熟的分词器,需要因地制宜的设置不同粒度的分词策略,并且最好还能确保在检索词处理(Query Analysis)和索引构建(Index Building)两端的切分策略保持一致(陈运文)。目前学术界公开的分词测试集合,往往都是只有一种粒度,而且粒度划分标准也并不一致,导致很多评测结果的高低离实际使用效果好坏有一定距离。

在中文分词粒度里,有一个非常令人头疼的问题是「基本粒度词」是否可继续拆分的问题。就好比在化学中,通常约定原子(atom)是不可再分的基本微粒,由原子来构成各类化学物质。但如果进一步考虑原子可分,那么整个化学的根基就会动摇。同样在中文 NLP 领域,虽然学术界通常都默认基本粒度词不再可分,但在实际工程界,基本词不可再分会导致很多召回不足的问题,引入难以解决的 bad case。不要小看这个问题,这是目前限制中文语义理解的一个特别常见的难题。要解释清楚来龙去脉,笔者还得从汉语的发展历程说起。

中国古代汉语的表义基本单位是字而不是词。我从《论语》中拿一句话来举例:「己所不欲,勿施于人」。古代汉语一字一词,这句话拿来分词的话结果应该是「己/所/不/欲,勿/施/于/人」,可见全部切散为单字了。如果用现代白话文把这句话翻译过来,则意思是「自己都不愿意的方式,不要拿来对待别人」。现代汉语的特点是一般喜欢把单字都双音节化,「己-->自己,欲-->愿意,勿-->不要,施-->对待,人-->别人」。可以看出这些双音节(或多音节)词汇中部分蕴含着来源单字的意义。这种现象在现代汉语词汇中比比皆是,例如「狮子」,「老虎」,「花儿」,「图钉」,「水果」,「红色」等,对应「狮,虎,花,钉,果,红」等有意义的单字。而如果把这些双音节词作为不可再切分的基本粒度词的话,当用户搜「狮」的时候,即使文章中出现了词汇「狮子」,也是无法被搜到的。

那么如果将这些基本粒度词再进一步切分呢?会切出「子,老,儿,图,水,色」这样存在转义风险的词汇(即这些单字对应的含义并未体现在原文中),带来很多「副作用」。例如用户搜「老」的时候,当然不希望把介绍「老虎」的文章给找出来。

与此同时,还有另一类的情况是有一些词汇切为单字后,两个单字都分别有表义能力,如「北欧」切为「北/欧」,对应「北部,欧洲」两方面的意思。「俄语」切为「俄/语」,对应「俄国,语言」,「苦笑」,切为「苦/笑」,对应「痛苦,笑容」,以及「海洋」,「图书」,「亲友」,「时空」等都是可细分的。

还有第三类情况是,词汇切分后单字都不能体现原词含义,例如「自然」,如果切分为「自/然」,两个字都没有意义。类似的还有「萝卜」,「点心」,「巧克力」等,外来语为多。

之所以前面提到如今中文语义分析时,基本粒度问题是一个关键难题,原因是在现代汉语写作时,既有现代双音节/多音节词汇,也夹杂很多源于古代汉语的单字,半文半白的现象很常见,这就一下给语义理解带来很大的挑战。不管是切分粒度的选择,还是单字和词汇间关联关系的提取,标题和正文语义的匹配,当面临文白间杂时都会遇到难关。常见的情况为:新闻标题为了精炼,经常喜欢采用源自古汉语习惯的单字简称或缩略语。例如「中美援非模式差异带来效果大相径庭」,是选择「中美/援非」这样的基本切分粒度,还是按单字表义切分为「中/美/援/非」,对应「中国美国援助非洲」这样的内容,是存在各自的利弊的。计算机提取文章关键词时,还需要把「援—>援助,非-->非洲」还原为词并建立关联才能很好的解读处理。

目前业界并没有一个公认的粒度标准,常见的几个评测语料集合,如北大 pku-test,微软亚洲研究院 msr-test,人民日报标注语料等,切分标准都有所不同。虽然一般普遍采用的双音节词为主的基本粒度标准,但是在应用于搜索引擎、问答对话时都会出现大量召回不足的问题。而大量采用单字作为基本粒度词又会引入有转义风险的无效单字,并且还会出现运算性能等隐患。

为了解决基本粒度词的问题,笔者曾在百度设计开发了亚粒度词(subterm)补足的策略,缓解了召回不足的问题,工业界还有一些其他的同义词关联等方法来应对,但到目前为止词汇粒度问题仍然是困扰中文 NLP 的一个「慢性病」。近年来兴起的 BERT 模型,利用大量文本进行 Transform 预训练,填补各种粒度词汇的语义信息,也是是一种缓解问题的办法。

英文因为不存在切分问题,所以粒度问题只需要考虑词组(Phrase)切分的问题。例如 Harvard University,两个单词可以切为 Phrase 来表达一个具体机构。相比中文的从细到粗的多粒度切分要简单很多。

六、句法结构分析方法异同

自然语言处理在词汇级别之上是语句级别,因为语句是由一系列的词汇排列组合后生成的。通过学习语法我们知道句子结构是由「主谓宾定状补」这样的句法元素构成的。例句「陈运文达观数据上班,」主语是「陈运文」,谓语「上班」,「达观数据」是状语,说明动作发生的地点。

在句子结构方面,「英语重形合,汉语重义合」的特点体现的非常明显。英语为了充分体现句子中的各种承接、转折、从属、并列等关系,不厌其烦的准备了大量的连词、助词、介词、冠词等作为填充剂,来补充实词之间的缝隙,构成了很多从句、引导句。这些包含各类结构的结构,让计算机来进行语义角色标注 (SemanticRole Labeling, SRL) 和语义依存分析 (SemanticDependency Parsing, SDP) 相对比较容易。

因为这些形式指示词的存在,一个大家能很直观发现的现象就是英文写出来的句子往往都特别长,整篇文章篇幅多。而同样的意思用中文写出来,篇幅往往只需要英文的一半甚至更少,汉语的句子非常精炼,尤其诗歌用短短几个字能描述出丰富的内涵——「孤帆远影碧空尽,唯见长江天际流」,多么洗练优美有意境。

从计算机的视角来看,恰恰因为汉语讲究意合而不重形式,句子结构都比较松散,并没有英文中那么多的虚词作为实词间的语义粘合剂,而是依赖词汇前后顺序关系,隐含表达出句子结构,所以也给计算机处理带来了挑战。例如「中国人工智能创业企业获奖名单公布」这句话里,「中国,人工智能,创业,企业,获奖」这一连串的名词均是主语「名单」的定语,如果用英语来写这句话,一定会出现形如「the…of…that…which…」这样一系列的辅助词来把这些名词粘接到一起,而中文并没有它们。所以当我们训练算法去识别句子主语和定语的时候,必须要小心的判断哪个名词才是句子的真正主语所在。汉语中句子的重心往往后移,相反英语中句子主要部分前移,所以通常生成句法依存树时中文都会自动选择靠后的名词。

除了句子内部的辅助词外,在句子间关系识别时,中英文都会通过特定标识词连接子句间关系,例如转折关系(虽然…但是…),假设关系(如果…. 就…),递进关系(不仅…而且…),因果关系(因为…. 所以….),英文则是 because…, Although…, If…, but also… 等。在中英文中这些标识词经常会被自动省略,例如「车站人流量大,大家要照看好自己的行李」。这里隐含的语义为「[因为] 车站人流量大,[所以] 大家要照看好自己的行李」,[-] 内的词汇被自动省略了。区别在于英文一般会省略其中一个,例如「because…, so…,」这样的句子会省掉其中一个,中文则既可以全省掉,也可以全写出,实际进行语义理解时需要额外补充处理。

目前句法依存分析在实际工程应用中并没有发挥很大作用,其原因一方面是上述一些现象导致了很难抽取得到特别准确的句法关系结果,另一方面是大部分 NLP 应用选择了直接从词汇或篇章级别来获得结果,省去了中间句子这层。目前业界针对长程的语义上下文关系,逐步放弃传统的 RST 方法,更多倾向于利用记忆网络(如 bi-LSTM)等技术完成提炼。在聊天对话等应用方面,用句法结构来把握语义仍然是会有价值的。

七、中文英文指代消解处理

计算机进行文章内容解读时,经常碰到指代消解(ReferenceResolution)的问题。不论是在书面文本中进行长文章解读,还是在对话文本中回溯前文问题,指代消解都起到非常关键的作用。计算机需要能像人类一样建立起上下文间这些词汇间的关联关系,做到把概念串联起来「读懂」文章的意思。例如这句话:

达观数据顺利入驻浦东软件园,公司创始人陈运文表示,达观专注于为企业提供文本智能处理软件系统和技术服务。他说:『文本理解任重道远』」

这句话里「公司」、「达观」、「他」这些都是指代词,「达观数据」、「陈运文」是真正的实体,称为先行语(antecedent),而「公司」、「达观」、「他」是回指语(或称为照应语,anaphor)。回指语有时是代词(如「He」、「that」、「该公司」、「上述条款」、「前者」、「被告人」等等),有时是简称或缩写(如「达观」、「CEO」、「NLP」、「WTO」),有时采用借代方法,如「白宫的态度非常坚决」,「范冰冰们的纳税情况逐步被公布」,「白宫」=「美国总统」,「范冰冰们」=「大陆影视演员」。人类的阅读能力非常强,各类指代的情况人都能通畅理解,但对计算机来说并不简单。在 NLP 领域为此专门存在技术分支称为指代消解。指代消解通常又细分为回指、预指、共指等情形,实践中通常称为共指消解(CoreferenceResolution)

英文中常见指代语是专名首字母缩写,也是表音文字特别之处。英文中专有名词往往由多个单词构成,篇幅长,从中抽取字母构成各类缩写约定非常常见。缩写一部分是行业内通用的(例如计算机领域常见的 CV,DNS,CPU,NLP 等),另一些则是在文中第一次出现专名时临时约定的。例如一篇行业分析报告里的句子:「High Carbon Steel (HCS) is typically producedas low carbon steel. HCS export volume in YTD 2017 reached to 6.9 millionmetric tons(MMT).」。这里临时性缩写(HCS,YTD,MMT 等)大量出现。这些回指语是一个新的独立单词(例如例子中的 HCS),和原词汇的关联处理通过共指消解来完成。另一类回指语是「it、which、where、there、that」等这样的指代词,要通过上下文依赖关系去寻找实体。

中文的缩写通常是从实体中抽取若干汉字新构成的词,例如北京大学简称北大,复旦大学简称复旦,XX 银行,通常简写为 X 行,XX 局长,简写为 X 局。(陈运文)因为汉字里单字的表义能力比英文中单独的字母要强的多。我们知道常用汉字有 5000 多个,而英文字母只有 26 个,所以中文缩写词更容易能让人「望文生义」,读懂含义。例如「高碳钢」这个缩写即使是外行也能猜出意思,但是 HCS 怕是很难直接让人明白是啥,即汉语在缩略语的可读性上优于英文。

正因为英文缩略语可读性弱,且重复歧义多,所以为了让人能读懂,英文里通常都会清楚标出先行语和缩写规则。而汉语里除非严格的法律文书会前置术语表,一般文本里用缩略语时比较随意,很多时候约定俗成,并不「提前打招呼」。例如新闻:「北大学生在刚刚结束的奥数竞赛中成功摘得两枚金牌」。如果按缩略语习惯,应该写为:「北京大学(以下简称北大)学生在刚刚结束的国际奥林匹克数学邀请赛(以下简称奥数)中成功摘得两枚金牌。」

在共指消解中还会遇到的一类问题是因为语法结构导致的指向歧义的问题。例如「这张照片里有陈运文和高翔的同事」、「那边坐着三个公司的工程师」,这在前面句法结构解析时提到过,也同样会影响中英文在处理共指消解时的结果。

在实际工程应用中,共指消解最常用到的场景是对人名、机构名、地点、条款、具体事件、关系类型等要素的指代处理。在超长文书(如证券行业的上市公司重组公告、招股说明书等)处理方面该技术也起了很大作用。日常中文的共指消解存在一定的行文规律,通过预先挖掘简写和指代词表导入算法中可显著提升效果。业界常见的共指消解方法既有传统的规则启发法,也有经典的统计学习、聚类算法、概率图模型等,此外深度强化学习、长短时记忆网络等新的 Meural Mention-ranking 方法也有良好的效果。

八、英汉语词汇间关联关系挖掘

词汇间关系是构建语义网络的一项基础技术,我们知道同义词、近义词、相关词是特别常见的词汇关系,此外词汇的上下位(例如在生物知识网络中 Sparrow 属于 Bird,Shanghai 属于 China)和词向量等在 NLP 处理中都很重要。和英文单词相比,汉字的数量少得多,常用汉字数才 2000-3000 个,其中最常用的 1000 个汉字已经能覆盖 92% 的书面资料了。这 1000 个汉字中去掉偏旁部首类似的字,独立语素更是不到 500 个。在表述事物时汉语中采用字组合的方式,可以非常方便的理解词义并且研读出词汇之间的关联关系。

而英文单词动辄 2 万-3 万个(美国成年人平均单词量),而且意思相似的词汇间的字母构成差异很大,所以很多情况下如果没见过某个单词,很难像中文一样大致能猜出词汇所指的意思。请大家不查词典猜猜 limousine、roadster、saloon 分别是什么意思,再看看对应的中文意思,就能理解为什么会有这么多英文单词了。

我们再用下面的这样一些例子给大家直观的展示英文在表述相近事物时的差异性:Chick, Rooster, Hen, Egg 彼此之间从字母分布上来看很难看出有什么关联,但是换成中文,对应的是小鸡、公鸡、母鸡、鸡蛋,很容易就能发现其中的规律。中文词汇是由有意思的单字组合构成的,因此通过字就很容易观察和理解词汇间的关系。类似的,小牛,公牛,母牛的英文单词为 Calf,Ox,Cow,甚至公牛在英文中还区分阉割后的 steer 和没被阉割的 bull。因此汉语 NLP 中只需要根据动物名「鸡」、「牛」、「猪」、「鸭」加上相应的形容词就可以知道意思了,而在英文中由于单词的差异无法直接通过单词的语素关系直接计算获得,所以为验证语义关系时略为复杂一些。

知识图谱(Knowledge Graph)是理解这些词汇间关系一种好办法。词汇(或称为实体 Entity)间的关系通过挖掘大量文本、Wiki 等来构建。英文词汇间的关系不像中文这样能让人能观察到,因此构建知识图谱对英文来说非常有价值。例如 spaghetti,penne,capellini,fusilli,lasagne,macaroni 这些实体,通过构建出知识图谱,才能让计算机知道他们都属于 Pasta(意大利面)下面的某个品类的名字。近几年兴起的基于 Skip-gram 或 CBOW 模型的 Word2Vec 方法一经提出就得到了非常广泛的应用,在实践中好评如潮,就是因为 embedding 技术恰好弥补了英文中词汇之间关系不直观的问题,对提高计算机英文语义理解的能力起到了很好的帮助作用。类似的,中文词向量、预训练等技术构建好后,也带来了整体语义分析效果的大幅度进步。汉语和英语在词汇间关系挖掘这个方面,目前整体的算法都是相同的,区别在于汉语的词汇间关系可以更加显式的被人观察到。毕竟,让人来判断 hepatitis 和 pneumonia,Grape 和 Raisin,January 和 March,Monday 和 Thursday 间的关系,相比分析肝炎和肺炎,葡萄和葡萄干,一月和三月,周一和周三之间的关系,还是要困难很多的,对计算机来说也是如此。

九、中英文省略和内容补足的处理

语境是一个微妙的概念,人类在进行文字阅读时,不只是看到文字内容本身,而是不自觉的会将语境相关的词汇自动补充进入字里行间,辅助语义理解。反之,人类在文字写作时,会将一些重复内容省略掉,主语或宾语是最常被省略的对象。例如摘录自合同文书的一段文字「本协议中约定了大桥建设工程的具体内容,其中乙方负责承接,丙方负责监督,以确保顺利交付」。如果让计算机来解读,需要把指代语补齐(用 [-] 表示)为:「本协议中约定了大桥建设工程的具体内容,乙方负责承接 [该工程],丙方负责监督 [乙方的工作],确保 [该工程] 顺利交付」。书面文本还相对规范,如果是日常对话的口语文本,那么省略更加是无处不在,以一个电商客服问答为例:「这双卖多少?」,「58」。「少点?」,「最低了」。「行吗?」,「做不了哎」。如果补齐省略语,应该为:「这双 [鞋子的价钱] 卖多少?」「[价钱] 少点 [行吗]?」「[价钱少点] 行吗?」

除了主谓语省略,一些非常重要的连词也经常被省略,例如「因为…所以…,虽然…但是…,尽管…然而…」,例如:「开车不注意,亲人泪两行」,「股市有风险,投资需谨慎」,补充逻辑连词后为「[如果] 开车不注意,[那么] 亲人泪两行」,「[因为] 股市有风险,[所以] 投资需谨慎」。

英文的省略习惯也存在(全世界人民都爱偷懒),例如省略主语 it:「Looks as if it will snow」,省略谓语 comes:「Who next?」,省略宾语 thedishes:「Let ' s do the dishes. I ' ll wash and you ' ll dry.」, 省略连词 that「It ' s a pity[that] she ' s leaving」。当然英文中还有一类约定俗成的独特简称(很多来自拉丁语)e.g., etc., al., i.e., viz. 等。

区别在于英文书面文本中省略出现的较少,同时语义连接词的省略有固定规范,例如「because…so…」要求只省其中一个。英文行文时单词使用量比中文多,同样的内容英文篇幅通常是中文的 200% 左右,也即中文 1 页纸写完的内容,如果用英文写要 2 页甚至更多。如果对比惜字如金的文言文,就更浓缩了。如「民为贵,社稷次之,君为轻」,10 个字如果改用英文写,没有几十个单词怕是说不清楚。那么放到省略环境下看时,汉语就比较吃亏了,因为本来就浓缩,再加上语法约束不严导致时不时省略,对信息的损失比较大。从 10 个汉字的短句中省略 2 个字,和从一段 20 个单词的英文句子中省略 2 个单词,前者对计算机处理来说要费力不少。达观在进行文本应用实践中,也在想办法主动「脑补」出这些省略语,加深对文字理解的深度(陈运文)。近年兴起的文本预训练(例如大名鼎鼎的 BERTMT-DNN 等)技术通过海量文本的预训练,对文本进行表示学习,运用 transform 编码器等把这些词句中的隐语义信息嵌入(Embedding),结合 Attention 机制,填补省略内容,在自然语言理解(NLU)的很多应用(例如 GLUE benchmark、斯坦福阅读推理 SQuAD、SNLI、MultiNLI、SciTail)能大幅度提升效果。

十、歧义问题与子串转义处理

虽然大部分 NLP 的算法都具备语言无关性(Language independent),但是在具体工程任务中还是有很多语言相关的问题。在汉语中经常发生的一类情况是文字子串局部转义的问题。这个问题因为是汉语所独有的,在英文中几乎不曾出现,所以在自然语言处理的学术界并不作为主流的课题被研究(因为学术界主流还是倾向于研究语言无关性的课题和方法)。但是笔者在多年从事 NLP 以及搜索和推荐系统技术研发工作时,深深的感受到子串转义是一个非常困难却也非常重要的汉语 NLP 课题。对这个课题处理水平的高低直接影响着大量的实际工程效果。下面具体阐述下该问题的定义。

前文我曾提到过汉语中单字不多(3000 个汉字可以覆盖 99% 的中文文本了),所以汉语里的词汇大多是由几个汉字顺序组合来形成的。这里潜伏着一个巨大的隐患是,因为字的排列组合形式很多,所以会导致局部出现的一些组合所构成的意思,和整体词的意思不同,出现歧义;或者说一个词汇中的子串和整个词的意思会出现很大的差异,因而也称为子串转义问题。这里我用数学形式化的方法再来表述下:假设 A、B、C 分别表示三个汉字,那么子串转义就是指词汇 ABC 的含义,和 AB 或者 BC 的含义完全不相同。当然 4 个汉字或者更长的短串也类似。例如 ABCD 和 ABC 或 BCD 或 AB、BC、CD 的意思可能会完全不同,这种意思「突变」的情况称为子串转义。

例如:「周杰伦」和其中的前两个字构成的词「周杰」显然指的是完全不同的两个人,「荨麻疹」和「麻疹」是两种病,「亚健康」和「健康」的意思截然相反。这会给计算机处理带来很多困难,尤其在搜索引擎中,当用户搜「周杰」或「麻疹」或「健康」时,如果结果出「周杰伦上海粉丝见面会」、或「荨麻疹治疗方法」、「导致白领亚健康的主要原因」都是不太好的结果。我们在搜索引擎中遇到的大量结果不相关的问题,很多都是由于汉语中局部转义现象导致的。

同样,在进行关键词提取、文本相似度计算、相关文章推荐等场景的时候,这些局部转义的问题同样也会带来很大麻烦。例如「周杰伦上海粉丝见面会」和「周杰伦现身上海电影节」两篇文章的内容相关度,显然远大于「周杰上海粉丝见面会」。

很多朋友可能会觉得这些都可以视为命名实体识别(NER)问题,将这些专名直接切为一个整体,就能解决上述局部转义的问题了。其实没这么简单,因为其实大量的中文词汇里,局部词组合成的意思和整体词汇是存在关联的,如果不切开会带来召回不足的问题。例如「消防队」和「消防」,「上班族」和「上班」,「315 晚会」和「315」等,甚至前面例子里「周杰伦」和「杰伦」也有紧密的语义关联。当用户搜索词是「消防」、「杰伦」、「315」等 query 时,相应的整体词「周杰伦」、「315 晚会」等所在的文章也理应被搜出来。因为明明文章里有这个词且意思相关,如果没被找出来是不能被用户接受的。通过这些例子可见正确处理汉语的字词组合的确是一件很棘手的课题。再举个例子:「不可以」这个常用词,把「不可」单独作为子串提取出来是非常有必要的,因为和原词意思相同。但是把「可以」单独提取出来就很危险,因为和原词意思相反,单独进行搜索匹配会导致歧义。再如我们可以把「阿里巴巴」里的子串「阿里」切出来,因为很多时候用户称呼「阿里」就是指「阿里巴巴」,但是把「里巴」或「巴巴」切出来则是不合适的。

究竟哪些子串词汇和原词意思相同相近?哪些又会发生转义?这需要计算机更智能的进行判断才行,目前我们已经想了一些方法去解决,例如通过字的共现频率等进行处理,但离彻底解决汉语里子串转义的问题还有距离。

除了子串转义外,汉语中其他歧义的情况也是比比皆是,例如「我去上课了」、「她看病去了」(主动和被动不明,导致无法区分老师还是学生,病人还是医生)、「要多少有多少」(无法区分核心语义是多还是少)、「咬死了猎人的狗」、「喜欢山区的孩子」(无法区分狗或孩子是主语还是宾语)。因为中文不是靠词汇的变形变换来体现修饰、主被动等关系,而是靠顺序组合来体现,因此在中文 NLP 的各个环节,从分词、词性、句法、指代,到局部子串处理等,都会带来歧义理解的问题。

英文中也存在歧义问题,最常见的情况是英文多义词导致的。例如「He went to the bank」既可以理解为「他去了银行」,也可以理解为「他去了河岸边」,「The doctor saw the Indian dance」,单词 Indian 既可以视为形容词「印第安人的舞蹈」,也可以是名词「印第安人+跳舞」,还有英文中不定式导致的歧义,如「Not many books filled the shelves」,可以理解为「书架上没有几本书」或者「要放满那些书架不用很多书」。

其实所有的人类语言都存在着各式各样的歧义的问题,我们看到各个民族所流传的笑话里很多都是拿这些歧义语义来打趣的。不同语言处理歧义的具体方法不同,但整体思路都是将歧义句放到句子上下文里来解读,引入更多语境信息来正确获得意思。

可以说计算机进行语义理解的结果,某种程度上就是在和各种各样的歧义做斗争的过程。打个比方,自然语言处理的过程就像是让计算机拿着用上下文语境拼凑出的一张残缺的地图,拨开云遮雾绕的文字迷雾,越过歧义所埋下的一个个大坑,逐步接近语义真相的过程。

中英文 NLP 差异总结

中文和英文这两类全球使用人数最多,影响力最大的语言,有各自鲜明的语言特色,在计算机进行自然语言处理领域也有各自独树一帜的地方。本文从语言特点的角度出发,从 10 个方面分析了中英文在自然语言处理上的差异。随着全球化的发展,中英文在不断相互影响,相互渗透。例如中文中有大量的外来语来自英文,沙发、咖啡、巧克力、牛顿等这些频繁出现的词汇都源于英文,还有很多专业术语如 NGO、WTO、CFO 等,甚至 NLP 一词本身也是源自英文。英文也在受中文影响,每年都有近千条外来词汇新收录入英文词典,如 Kungfu(功夫),tofu(豆腐)等。

无论是中英文各自的 NLP 应用,还是两种语言之间的相互翻译,都面临着非常巨大的技术挑战,因为语言的产生和发展受人类日常交流和使用的影响,虽然有一定的语法规律,但并不完全严格的,另外语义理解还受上下文语境、以及领域知识的影响非常大,这些都给计算机处理带来了很多困难。

虽然整体上 NLP 的算法都是语言无关的,但是在细节处理上还是存在很多差异,尤其在实际工程应用中为了达到尽可能好的效果,往往要深入探究语言的特点。因此本文从两种语言的特点出发,结合作者在计算机文本处理方面的从业经验,分析了两者 NLP 的异同点,虽挂一漏万,但期望对各位读者有所启发,也期待未来中英文的语义理解技术都不断创造新的突破。(陈运文 达观数据

关于作者:

陈运文达观数据创始人,复旦大学计算机博士,科技部「万人计划」专家,国际计算机学会(ACM)、电子电器工程师学会(IEEE)、中国计算机学会(CCF)、中国人工智能学会(CAAI)高级会员;第九届上海青年科技英才。在人工智能领域拥有丰富研究成果,是复旦大学、上海财经大学聘任的校外研究生导师,在 IEEE Transactions、SIGKDD 等国际顶级学术期刊和会议上发表数十篇高水平科研成果论文,译有人工智能经典著作《智能 Web 算法》(第 2 版),并参与撰写《数据实践之美》等论著;曾多次摘取 ACM KDD CUP、CIKM、EMI Hackathon 等世界最顶尖的大数据竞赛的冠亚军荣誉。

理论达观数据NLP
6
相关数据
微软亚洲研究院机构

微软亚洲研究院于1998年在北京成立,是微软公司在亚太地区设立的基础及应用研究机构,也是微软在美国本土以外规模最大的一个研究院。微软亚洲研究院从事自然用户界面,智能多媒体,大数据与知识挖掘,人工智能,云和边缘计算,计算机科学基础等领域的研究,致力于推动计算机科学前沿发展,着眼下一代革命性技术的研究,助力微软实现长远发展战略。通过与微软产品部门紧密合作,微软亚洲研究院将众多创新技术转移到了微软的核心产品中,如Office、Windows、Azure、Bing、Visual Studio、Xbox Kinect以及小冰、Cortana和Microsoft Translator等人工智能产品。

https://www.msra.cn/
微软机构

微软是美国一家跨国计算机科技公司,以研发、制造、授权和提供广泛的计算机软件服务为主。总部位于美国华盛顿州的雷德蒙德,最为著名和畅销的产品为Microsoft Windows操作系统和Microsoft Office办公室软件,以及Xbox的游戏业务。微软是美国《财富》杂志2015年评选的世界500强企业排行榜中的第95名。

https://www.microsoft.com/en-us/about
达观数据机构

达观数据成立于2015年,是中国领先的文本智能处理企业,利用先进的文字语义自动分析技术,为企业、政府等各大机构提供文本自动抽取、审核、纠错、搜索、推荐、写作等智能软件系统,让计算机代替人工实现业务流程自动化,大幅度提高运营效率。 达观数据为企业提供完善的文本挖掘、知识图谱、搜索引擎和个性化推荐等大数据服务,是国内唯一一家将自动语义分析技术应用于企业数据化运营的人工智能公司。

http://www.datagrand.com/
陈运文人物

达观数据创始人和CEO,复旦大学博士。

深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

基于Transformer 的双向编码器表征技术

BERT是谷歌发布的基于双向 Transformer的大规模预训练语言模型,该预训练模型能高效抽取文本信息并应用于各种NLP任务,并刷新了 11 项 NLP 任务的当前最优性能记录。BERT的全称是基于Transformer的双向编码器表征,其中“双向”表示模型在处理某一个词时,它能同时利用前面的词和后面的词两部分信息。

深度强化学习技术

强化学习(Reinforcement Learning)是主体(agent)通过与周围环境的交互来进行学习。强化学习主体(RL agent)每采取一次动作(action)就会得到一个相应的数值奖励(numerical reward),这个奖励表示此次动作的好坏。通过与环境的交互,综合考虑过去的经验(exploitation)和未知的探索(exploration),强化学习主体通过试错的方式(trial and error)学会如何采取下一步的动作,而无需人类显性地告诉它该采取哪个动作。强化学习主体的目标是学习通过执行一系列的动作来最大化累积的奖励(accumulated reward)。 一般来说,真实世界中的强化学习问题包括巨大的状态空间(state spaces)和动作空间(action spaces),传统的强化学习方法会受限于维数灾难(curse of dimensionality)。借助于深度学习中的神经网络,强化学习主体可以直接从原始输入数据(如游戏图像)中提取和学习特征知识,然后根据提取出的特征信息再利用传统的强化学习算法(如TD Learning,SARSA,Q-Learnin)学习控制策略(如游戏策略),而无需人工提取或启发式学习特征。这种结合了深度学习的强化学习方法称为深度强化学习。

信息检索技术

信息检索(IR)是基于用于查询检索信息的任务。流行的信息检索模型包括布尔模型、向量空间模型、概率模型和语言模型。信息检索最典型和最常见的应用是搜索引擎。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

文本分类技术

该技术可被用于理解、组织和分类结构化或非结构化文本文档。文本挖掘所使用的模型有词袋(BOW)模型、语言模型(ngram)和主题模型。隐马尔可夫模型通常用于词性标注(POS)。其涵盖的主要任务有句法分析、情绪分析和垃圾信息检测。

语义分析技术

语义分析是编译过程的一个逻辑阶段, 语义分析的任务是对结构上正确的源程序进行上下文有关性质的审查,进行类型审查。语义分析是审查源程序有无语义错误,为代码生成阶段收集类型信息。比如语义分析的一个工作是进行类型审查,审查每个算符是否具有语言规范允许的运算对象,当不符合语言规范时,编译程序应报告错误。如有的编译程序要对实数用作数组下标的情况报告错误。又比如某些程序规定运算对象可被强制,那么当二目运算施于一整型和一实型对象时,编译程序应将整型转换为实型而不能认为是源程序的错误。

词性标注技术

词性标注是指为分词结果中的每个单词标注一个正确的词性的程序,也即确定每个词是名词、动词、形容词或其他词性的过程。

知识图谱技术

知识图谱本质上是语义网络,是一种基于图的数据结构,由节点(Point)和边(Edge)组成。在知识图谱里,每个节点表示现实世界中存在的“实体”,每条边为实体与实体之间的“关系”。知识图谱是关系的最有效的表示方式。通俗地讲,知识图谱就是把所有不同种类的信息(Heterogeneous Information)连接在一起而得到的一个关系网络。知识图谱提供了从“关系”的角度去分析问题的能力。 知识图谱这个概念最早由Google提出,主要是用来优化现有的搜索引擎。不同于基于关键词搜索的传统搜索引擎,知识图谱可用来更好地查询复杂的关联信息,从语义层面理解用户意图,改进搜索质量。比如在Google的搜索框里输入Bill Gates的时候,搜索结果页面的右侧还会出现Bill Gates相关的信息比如出生年月,家庭情况等等。

机器翻译技术

机器翻译(MT)是利用机器的力量「自动将一种自然语言(源语言)的文本翻译成另一种语言(目标语言)」。机器翻译方法通常可分成三大类:基于规则的机器翻译(RBMT)、统计机器翻译(SMT)和神经机器翻译(NMT)。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

准确率技术

分类模型的正确预测所占的比例。在多类别分类中,准确率的定义为:正确的预测数/样本总数。 在二元分类中,准确率的定义为:(真正例数+真负例数)/样本总数

命名实体识别技术

命名实体识别(NER)是信息提取(Information Extraction)的一个子任务,主要涉及如何从文本中提取命名实体并将其分类至事先划定好的类别,如在招聘信息中提取具体招聘公司、岗位和工作地点的信息,并将其分别归纳至公司、岗位和地点的类别下。命名实体识别往往先将整句拆解为词语并对每个词语进行此行标注,根据习得的规则对词语进行判别。这项任务的关键在于对未知实体的识别。基于此,命名实体识别的主要思想在于根据现有实例的特征总结识别和分类规则。这些方法可以被分为有监督(supervised)、半监督(semi-supervised)和无监督(unsupervised)三类。有监督学习包括隐形马科夫模型(HMM)、决策树、最大熵模型(ME)、支持向量机(SVM)和条件随机场(CRF)。这些方法主要是读取注释语料库,记忆实例并进行学习,根据这些例子的特征生成针对某一种实例的识别规则。

大数据技术技术

大数据,又称为巨量资料,指的是传统数据处理应用软件不足以处理它们的大或复杂的数据集的术语。

条件随机场技术

条件随机场(conditional random field,简称 CRF),是一种鉴别式机率模型,是随机场的一种,常用于标注或分析序列资料,如自然语言文字或是生物序列。 如同马尔可夫随机场,条件随机场为无向性之图模型,图中的顶点代表随机变量,顶点间的连线代表随机变量间的相依关系,在条件随机场当中,随机变量 Y 的分布为条件机率,给定的观察值则为随机变量 X。原则上,条件随机场的图模型布局是可以任意给定的,一般常用的布局是链接式的架构,链接式架构不论在训练(training)、推论(inference)、或是解码(decoding)上,都存在有效率的算法可供演算。 条件随机场跟隐马尔可夫模型常被一起提及,条件随机场对于输入和输出的机率分布,没有如隐马尔可夫模型那般强烈的假设存在。 线性链条件随机场应用于标注问题是由Lafferty等人与2001年提出的。

语义网技术

语义网是由万维网联盟的蒂姆·伯纳斯-李在1998年提出的一个概念,它的核心是:通过给万维网上的文档蒂姆加能够被计算机所理解的语义,从而使整个互联网成为一个通用的信息交换媒介。语义万维网通过使用标准、置标语言和相关的处理工具来扩展万维网的能力。

自然语言处理技术

自然语言处理(英语:natural language processing,缩写作 NLP)是人工智能和语言学领域的分支学科。此领域探讨如何处理及运用自然语言;自然语言认知则是指让电脑“懂”人类的语言。自然语言生成系统把计算机数据转化为自然语言。自然语言理解系统把自然语言转化为计算机程序更易于处理的形式。

自动摘要技术

自动摘要是指给出一段文本,我们从中提取出要点,然后再形成一个短的概括性的文本。

词干提取技术

在词法学和信息检索里,词干提取是去除词缀得到词根的过程─—得到单词最一般的写法。对于一个词的形态词根,词干并不需要完全相同;相关的词映射到同一个词干一般能得到满意的结果,即使该词干不是词的有效根。从1968年开始在计算机科学领域出现了词干提取的相应算法。很多搜索引擎在处理词汇时,对同义词采用相同的词干作为查询拓展,该过程叫做归并。

语义网络技术

语义网络常常用作知识表示的一种形式。它其实是一种有向图;其中,顶点代表的是概念,而边则表示的是这些概念之间的语义关系。

概率图模型技术

在概率论和统计学中,概率图模型(probabilistic graphical model,PGM) ,简称图模型(graphical model,GM),是指一种用图结构来描述多元随机 变量之间条件独立关系的概率模型

深度神经网络技术

深度神经网络(DNN)是深度学习的一种框架,它是一种具备至少一个隐层的神经网络。与浅层神经网络类似,深度神经网络也能够为复杂非线性系统提供建模,但多出的层次为模型提供了更高的抽象层次,因而提高了模型的能力。

百度机构

百度(纳斯达克:BIDU),全球最大的中文搜索引擎、最大的中文网站。1999年底,身在美国硅谷的李彦宏看到了中国互联网及中文搜索引擎服务的巨大发展潜力,抱着技术改变世界的梦想,他毅然辞掉硅谷的高薪工作,携搜索引擎专利技术,于 2000年1月1日在中关村创建了百度公司。 “百度”二字,来自于八百年前南宋词人辛弃疾的一句词:众里寻他千百度。这句话描述了词人对理想的执着追求。 百度拥有数万名研发工程师,这是中国乃至全球最为优秀的技术团队。这支队伍掌握着世界上最为先进的搜索引擎技术,使百度成为中国掌握世界尖端科学核心技术的中国高科技企业,也使中国成为美国、俄罗斯、和韩国之外,全球仅有的4个拥有搜索引擎核心技术的国家之一。

http://home.baidu.com/
聚类技术

将物理或抽象对象的集合分成由类似的对象组成的多个类的过程被称为聚类。由聚类所生成的簇是一组数据对象的集合,这些对象与同一个簇中的对象彼此相似,与其他簇中的对象相异。“物以类聚,人以群分”,在自然科学和社会科学中,存在着大量的分类问题。聚类分析又称群分析,它是研究(样品或指标)分类问题的一种统计分析方法。聚类分析起源于分类学,但是聚类不等于分类。聚类与分类的不同在于,聚类所要求划分的类是未知的。聚类分析内容非常丰富,有系统聚类法、有序样品聚类法、动态聚类法、模糊聚类法、图论聚类法、聚类预报法等。

推荐文章
暂无评论
暂无评论~