DeepMInd 研究人员提出终身语言学习中的情景记忆
机器之心消息,来自 DeepMind 的研究人员在一篇名为《终身语言学习中的情景记忆》的论文中介绍了一种终身语言学习设置。设置中,一个模型需要需要从没有任何数据集标识符的文本示例流中学习。研究人员们提出了一种情景记忆模型,该模型执行稀疏体验重放和局部适应,以减轻此设置中的灾难性遗忘。文本分类和问答的实验证明了稀疏体验重放和局部适应的互补优势,使模型能够不断地从新数据集中学习。研究还表明,通过随机选择存储在存储器中的哪些示例,性能最小化,可以显着降低情节存储器模块的空间复杂度(~50-90%)。研究人员们将情景记忆成分视为一般语言智能的重要组成部分,并将该模型视为朝着这个方向迈出的第一步。