参与:张倩、刘晓坤、王淑婷作者:Rob Matheson

看图聊天的骚操作,MIT开发精准到单词的语音-图像配对系统

MIT 计算机科学家开发了一个系统,可以根据有关图像的语音描述学习识别、定位、检索其中的目标。给定一幅图像和一份语音描述,模型就能实时找出图像中与特定词汇描述相符的相关区域,这样配置了该功能的语音助手也能跟你一起分享看照片的心情了。该方法有望应用于无监督双语翻译,相关论文发表在 ECCV2018 上。

与当前 语音识别技术不同,该模型不需要人工转录和注释其所训练的例子,而是直接从原图像的录音片段和目标中学习词汇,然后建立它们之间的联系。

图 1:模型的输入:图像和语音波形的配对。

该模型现在只能识别几百个单词和物体类型,但研究人员希望这一「语音-目标」组合识别技术将来能够为人类节省很多时间,同时为语音和图像识别技术打开新的大门。

语音识别系统(如 Siri)需要转录几千个小时的录音。该系统使用这些数据学会匹配语音信号与特定词汇。如果有新词加入词典,这种方法就不好用了,而且系统必须重新训练。

「我们想用一种更自然的方式做 语音识别,利用人类便于使用的额外信号和信息,但 机器学习算法通常无法利用这些信息。我们训练模型的方法类似于让一个小孩走过一个区域,然后描述他看到了什么,」计算机科学和 人工智能实验室(CSAIL)及口语系统小组研究员 David Harwath 表示。Harwath 在一篇 ECCV 大会论文中描述了这一模型。

在该论文中,研究人员展示了他们的模型。他们使用的图像中有一个金发碧眼的小女孩,穿着蓝色连衣裙,背景是一座红顶的白色灯塔。该模型学会了建立图像中的元素与「女孩」、「金发」、「蓝眼睛」、「蓝色裙子」、「白色灯塔」和「红色屋顶」之间的关联。给出一段音频描述,模型会根据描述显示出图像中的每个目标。

图 7:左边显示了两幅图像及其语音信号。每种颜色对应于从完全随机 MISA 网络的两个匹配图中导出的一个连通分量。右边的掩码显示与每个语音片段相对应的片段。掩码下方展示了从 ASR 转录中获得的描述。请注意,这些词从未用于学习,只是用于分析。

学习不同语言之间无需双语注释的翻译是该技术一种有前景的应用。全世界大约有 7000 种口语,其中只有大约 100 种具有充足的 语音识别转录数据。如果模型从与图像中的目标对应的语言 A 中学习语音信号,同时从对应于相同目标的语言 B 中学习语音信号,该模型就能假设这两种信号(及对应的词)可以互译。

「这有可能是一种巴别鱼式的机制,」Harwath 说,巴别鱼是《银河系漫游指南》小说中虚构的一种生物耳机,它将不同的语言翻译给佩戴者。该论文的合著者包括 CSAIL 的研究生 Adria Recasens、访问生 Didac Suris、前研究员 Galen Chuang、电气工程和计算机科学教授兼 MIT-IBM 沃森 人工智能实验室负责人 Antonio Torralba 及领导 CSAIL 口语系统小组的高级研究科学家 James Glass。

声音-视觉关联

这项研究基于早期由 Harwath、Glass、Torralba 开发的将语音与主题相关的图像关联起来的模型。在早期研究中,他们从众包的 Mechanical Turk 平台的 分类数据库提取场景图像。然后他们让人们按照向婴儿叙述的方式用大约 10 秒的时间来描述图像。他们编译了超过 20 万对图像和音频描述,涉及数百个不同的类别,例如海滩、购物广场、城市街道和房间等。

场景识别数据库:http://places.csail.mit.edu/

然后他们设计了一个由两个独立的 卷积神经网络构成的模型。一个处理图像,另一个处理声谱(音频信号随时间变化的可视化表示)。模型的最顶层计算两个网络的输出并对语音模式和图像数据进行 映射

例如,研究人员将描述 A 和图像 A(正确配对)馈送给模型。然后他们再馈送一个随机描述 B 和图像 A(错误配对)。在比较了图像 A 的数千个错误配对之后,模型学习到了对应图像 A 的语音信号,并关联描述中的单词信号。如 2016 年的这篇论文所述,模型学习选取对应单词「水」的信号,并检索包含水的图像。「但它并没有提供用特定单词检索特定图像像素块的功能。」Harwath 说。

相关链接:http://news.mit.edu/2016/recorded-speech-images-automated-speech-recognition-1206

制作匹配图

在这篇新论文中,研究人员修改了模型,将特定单词与特定像素块相关联。他们在同一个数据库上训练了该模型,但图像-描述为 40 万对。他们随机拿出了 1000 对用来进行测试。

在训练中,模型同样会得到正确和错误的图像和描述配对。但这一次,图像分析 CNN 将图像分成了由像素块组成的网格。音频分析 CNN 将声谱图分成几段,比如一秒捕捉一两个单词。

对于正确的图像和描述对,模型将网格的第一个单元与第一段音频匹配,然后将同一单元与第二段音频匹配,以此类推,一直贯穿每个网格单元,跨越所有时间段。对于每个单元和音频片段,它提供相似性分数,这取决于信号与目标的匹配程度。

问题是,在训练过程中,模型无法获取语音和图像之间的任何真实对齐信息。Harwath 说,「该论文的最大贡献是,通过简单地教导网络哪些图像和描述属于同一组,哪些对不属于同一组,证明了这些跨模态(视-听)信息可以自动推断对齐。」

研究人员将语音说明的波形与图像像素之间的这种自动学习关联称为「匹配图」。经过成千上万对图像-描述的训练,网络将这些对齐缩小到代表匹配图中特定目标的特定单词。

图 3:声音-视觉匹配图模型架构(左),匹配图输出示例(右),显示时空相似性的三维密度。

图 4:几个词汇/目标配对的语音提示定位图。

Harwath 还表示,「这有点像大爆炸,物质被分解,然后合并成行星和恒星。预测开始分散开来,但是经过训练后,它们会汇聚成对,代表语音和视觉目标之间有意义的语义基础。」

卡内基梅隆大学语言技术研究所的副教授 Florian Metze 说,「看到神经方法现在也能够将图像元素与音频片段联系起来,而且不需要文本作为中介,真是令人兴奋。与人类的学习不同,这种方法完全基于相关性,没有任何反馈,但它可能帮助我们理解共享表征是如何由听觉和视觉线索形成的。」

论文:Jointly Discovering Visual Objects and Spoken Words from Raw Sensory Input

论文链接:http://openaccess.thecvf.com/content_ECCV_2018/papers/David_Harwath_Jointly_Discovering_Visual_ECCV_2018_paper.pdf 

参考链接:http://news.mit.edu/machine-learning-image-object-recognition-0918

理论MIT语音识别计算机视觉
1
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

分类数据技术

一种特征,拥有一组离散的可能值。以某个名为 house style 的分类特征为例,该特征拥有一组离散的可能值(共三个),即 Tudor, ranch, colonial。通过将 house style 表示成分类数据,相应模型可以学习 Tudor、ranch 和 colonial 分别对房价的影响。 有时,离散集中的值是互斥的,只能将其中一个值应用于指定样本。例如,car maker 分类特征可能只允许一个样本有一个值 (Toyota)。在其他情况下,则可以应用多个值。一辆车可能会被喷涂多种不同的颜色,因此,car color 分类特征可能会允许单个样本具有多个值(例如 red 和 white)。

卷积神经网络技术

卷积神经网路(Convolutional Neural Network, CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。卷积神经网路由一个或多个卷积层和顶端的全连通层(对应经典的神经网路)组成,同时也包括关联权重和池化层(pooling layer)。这一结构使得卷积神经网路能够利用输入数据的二维结构。与其他深度学习结构相比,卷积神经网路在图像和语音识别方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他深度、前馈神经网路,卷积神经网路需要考量的参数更少,使之成为一种颇具吸引力的深度学习结构。 卷积网络是一种专门用于处理具有已知的、网格状拓扑的数据的神经网络。例如时间序列数据,它可以被认为是以一定时间间隔采样的一维网格,又如图像数据,其可以被认为是二维像素网格。

映射技术

映射指的是具有某种特殊结构的函数,或泛指类函数思想的范畴论中的态射。 逻辑和图论中也有一些不太常规的用法。其数学定义为:两个非空集合A与B间存在着对应关系f,而且对于A中的每一个元素x,B中总有有唯一的一个元素y与它对应,就这种对应为从A到B的映射,记作f:A→B。其中,y称为元素x在映射f下的象,记作:y=f(x)。x称为y关于映射f的原象*。*集合A中所有元素的象的集合称为映射f的值域,记作f(A)。同样的,在机器学习中,映射就是输入与输出之间的对应关系。

语音识别技术

自动语音识别是一种将口头语音转换为实时可读文本的技术。自动语音识别也称为语音识别(Speech Recognition)或计算机语音识别(Computer Speech Recognition)。自动语音识别是一个多学科交叉的领域,它与声学、语音学、语言学、数字信号处理理论、信息论、计算机科学等众多学科紧密相连。由于语音信号的多样性和复杂性,目前的语音识别系统只能在一定的限制条件下获得满意的性能,或者说只能应用于某些特定的场合。自动语音识别在人工智能领域占据着极其重要的位置。

暂无评论
暂无评论~