自然语言处理的国际顶级会议 ACL2019 刚在文艺复兴的发源地-意大利的佛罗伦萨落下帷幕，最佳论文等各奖项也都名花有主。本文概述了ACL对话与交互系统中的报告论文，16 篇优秀论文看这篇文章就行。
这次会议共接收到投稿 2905 篇，比 2018 的 1544 近乎翻倍，接收文章数为 660 篇，接收率为 22.7%，与 2018 年的 24.9%，2017 年的 23.3% 差别不大。
这次会议包含了 22 个主题，中国学者表现出色，长文投稿 567 篇，被接收 118 篇，接收率在 20.8%，仅次于美国的 154 篇，并且斩获了本次会议的最佳论文奖项。
我们对对话系统比较关注，因而梳理了会议中 Dialog and Interactive Systems（对话和交互系统）下的文章，该主题共接收长文 38 篇，有 16 篇在会议中做了报告。下面介绍报告中的相关论文。
本次会议中，Dialog and Interactive Systems 分了三个 p，分别是 Neural Conversation Models, Task-Oriented Dialog, 和 New Task。
神经网络对话模型（Neural Conversation Models）
这个 p 的工作，是在给定对话历史的情况下，如何通过模型来选择对话中最优的回答：
论文 1：Boosting dialog response generation
作者：WenChao Du，Alan W Black
论文链接：https://www.aclweb.org/anthology/P19-1005
文章针对对话系统中容易出现的通用和一般性回答，做了些优化来提升生成对话文本的相关性和多样性。其工作，是基于 RAML（Reward-augmented Maximum likelihood learning, Norouzi 2016）模型：该模型的目标是最大化预测的分布 y*在模型中条件概率分布 p（y|x），并在模型迭代中采用连乘的 boosting，使每一轮迭代能更好的模拟分布。
本文的优化，是在模型迭代中假设训练数据的分布服从均匀分布，来简化 boosting 的过程，并把这个假设扩展到 RAML 模型的指数回报分布（exponential payoff distribution）中：
在实验中，作者发现通用的回答也不一定总是有低混淆度 Perplexities（Li 2017b），而高混淆度会在迭代中增强对应的回答的权重，导致通用回答在后面的迭代中出现的频率越来越高。普通的区分模型，是通过学习人产生的回答与生成式回答的差异，但在这，生成式回答数量太少，模型能轻易记住所有人类的回答，导致模型不好泛化。
作者采用了一个基于规则的区分模型：在每次迭代中，保留一个最常出现的生成式回复的列表，并用一个简单的二分函数来判断两个回复是否相似，用这个相似得分去更新数据的权重。最后在 Persona Dataset（zhang 2018）上做了实验验证，表明模型在 BLUE 上和现有的模型接近，ROUGH 值有时会变差，但是在多样性的指标上，比如不同 n-gram 的个数，则有明显的提升。
论文 2：：Do Neural Dialog Systems Use the Conversation History Effectively? An Empirical Study
作者：Chinnadhurai Sankar，Sandeep Subramanian，Christopher Pal，Sarath Chandar，Yoshua Bengio
论文链接：https://www.aclweb.org/anthology/P19-1004
Bengio 大神署名的文章，主要是研究现有的神经网络模型是否有效利用了对话历史，其方法，是在对话历史中加入一点扰动，比如，改变对话数据的先后顺序，或者改变词的顺序，然后看模型计算的条件概率是否有变化。需要注意的是，扰动只是发生在预测阶段，而训练阶段，是没有对数据做修改的。
文章在 4 个数据集上（bAbI dialog，Persona Chat，Dailydialog，MutualFriends），加入了 10 种不同的扰动（随机打乱句子序列，去掉某个整句，句子截断，去掉句子中的名词或动词等），发现 seq2seq 的 model（Bahdanau 2015），以及 transformer 的 model（Vaswani 2017）等对这些扰动都不敏感。