这场NeurIPS 2019研讨会,让新人与Bengio等大佬面对面交流,还颁发了三项论文奖

NeurIPS 2019 已经在温哥华接近尾声。作为人工智能和机器学习领域最顶级的盛会之一,本届大会参会总人数已经超过 13000 人,比去年增加了 50%。

在大会期间,一场面向 AI 新手的机器学习研讨会「New In ML 2019」也于当地时间 12 月 9 日 7 点至 17 点召开。这场研讨会由第四范式、 ChaLearn 和 Google 联合举办,为初次参会的研究者提供了一个与业界大牛面对面交流和学习的机会,并取得了非常积极的反响。多名与会者在与大会最高决策组织 NeurIPS Board 及组委会的对话环节介绍了 New In ML 研讨会给他带来的巨大价值,希望明年继续。由于一票难求,有参会者表示希望自己的新学生能来参加但没有被抽中门票,为了缓解这一担忧,主办方表示将在明年为 New In ML 研讨会专门预留门票以便新博士生能够增大参与机会。

本次 New In ML 2019 以经典的 Workshop 形式组织,包含了专家指导、投稿、评选优秀论文、口头和报告展示等丰富的环节,是首个成为 NeurIPS 大会官方环节的机器学习初学者论坛。论坛共收到机器学习领域论文投稿 80 余篇,经过专业评审委员会讨论和评审,筛选出 12 篇 Oral Presentation 和 40 余篇 Poster 论文,同时评选出了 3 篇最佳论文并现场颁发了奖项。

这场 Workshop 得到了新晋图灵奖获得者 Yoshua Bengio 、NeurIPS 组织最高决策者、秘书长 Terrence Sejnowski、以及最高决策组织 NeurIPS Board 和 Advisory Board 的多位核心成员——Thomas G. Dietterich、Samy Bengio、Isabelle Guyon、Neil Lawrence、Masashi Sugiyama、Hugo Larochelle 诸位大佬的支持。

为期整整一天的活动是从早餐会开始的,新人们与 Yoshua Bengio、Hugo Larochelle、Max Welling、Thomas G.Dietterich、Radford Neal 几位业界大牛一起享用早餐,并面对面交流机器学习领域的一些研究心得。 

随后,巴黎萨克莱大学教授 Isabelle Guyon 做了开幕致辞。

受邀出席的 Thomas G. Dietterich 是本次活动的主题演讲嘉宾,为新人们深入浅出地讲解了如何做机器学习研究,以及如何写机器学习的论文。此外,他也与新人一起完整地回顾了机器学习的发展历史,并肯定了工程领域和交叉学科进步对机器学习发展的影响。

在主题演讲中,他还谈到了写机器学习论文的一些技巧,包括如何了解自己的研究和整体研究的关系、如何回顾已有研究、如何写好论文(包括批判性地吸收、回顾、总结相关研究、制图等)。演讲中,Dietterich 还邀请听众参与小组讨论,使得整个过程更有教育意义。

在下午的圆桌讨论环节,多位大佬级别的导师同时出席,与参与活动的新人们展开了关于「快速融入机器学习领域」方面的讨论和交流。

在圆桌论坛上,几位深度学习大牛分享了他们在提出好的研究思路、做好研究、如何跟上快速发展的深度学习等方面进行了轻松的面对面交流。在谈到如何能够获得好的研究想法的时候,Samy Bengio 表示,重要的一点是不要从众。如果有个研究的方向和思路很多人去做了,那它可能不是一个好的想法。要想做出不一样的研究,需要远离人群,提出新的想法,有时可能需要不断提出新想法并寻求可靠的建议来做甄别。除此之外,Hugo Larochelle 强调了要选择自己有热情的研究方向,并指出与不同研究兴趣的人交流也有助于发现从前不知道但其实令你着迷的方向,从而创新出什么。Neil Lawrence 指出了坚持的重要性。

谈及什么是好论文、有价值的论文,Samy Bengio 指出,最有价值贡献的研究应是具有启发性的,能够触达更多价值,比如能在某些研究方向上引出新的可以进一步构建的问题,可以是理论的、经验的或者任何可以实现这一点的贡献。王立威从动机层面建议,如果想做出有贡献的研究,需要为了你认为「重要」的事做研究,而不是为了取悦审稿人发表论文而做研究。谈到会议论文和期刊论文对贡献度的要求,Masashi Sugiyama 表示,对于会议论文来说,有一个好点子就一般是足够发表了,而期刊论文很轻易就耗时一两年,需要有多个发现讲一个完整的故事。

最佳论文奖项

本次活动还特别设置了论文投稿环节,并从中评选出多个论文奖项。根据主办方要求,除参考文献外,投稿论文的篇幅不得超过 8 页,篇幅较短但内容足够好的论文也可以。投稿论文的第一作者先前没有被 NeurIPS(主会议)接收的论文,并且也不得在其他顶会上接受过评审或被接收。如果投稿论文之前被拒过,则应在提交至 New In ML 2019 之前进行修改。

被 New in ML 2019 接收的论文将接受专业 NeurIPS 审稿人的评审,如果评审通过,则可以在 workshop 和 expect coaching 上进行演讲或 poster 展示。还需注意的一点是,提交的论文并不作为正式的 NeurIPS 论文,所以论文作者可以之后进行修改并提交至 NeurIPS 2020,并在重新提交至其他顶会时应该考虑这些会议的政策。

在 80 余篇投稿中,专业评审委员会筛选出了 12 篇 Oral Presentation 和 40 余篇 Poster 论文,并在活动现场颁布了三个最佳论文奖项,包括最具颠覆性观点奖(Most Disruptive Idea)、最具科学含量奖(Best Scientific Contents)和最佳口头报告奖(Best Oral Presentation)。荣获最佳论文奖项的作者将有机会注册 NeurIPS 以及申请旅行奖(travel award)。

以下为本次获奖的论文:

最具颠覆性观点奖(Most Disruptive Idea)

获得 New in ML 2019 最具颠覆性观点奖的论文是《Edge Contraction Pooling for Graph Neural Networks》,作者是来自德国慕尼黑工业大学(TUM)的 Frederik Diehl。

论文链接:https://arxiv.org/abs/1905.10990

通常,有关图神经网络(GNN)的研究集中在卷积层的改进上,很少关注开发图池化层。但其实,池化层通过将一组节点抽象化,而非使用单个节点的方式,是能够让图神经网络具有推理能力的。在图神经网络的研究基础上,文章提出了一种基于边缘收缩概念的新的图池化层(Graph Pooling Layer),能够与图神经网络结合,在节点分类和图分类任务上,提高了准确率,同时能够适用于大规模图的处理。

最具科学含量奖(Best Scientific Contents)

获得 New in ML 2019 最具科学含量奖的论文是《Popularity Agnostic Evaluation of Knowledge Graph Embeddings》,作者分别是来自卡塔尔计算研究所(Qatar Computing Research Institute,QCRI)的 Aisha Mohamed、Shameem Parambath、Zoi Kaoudi 和 Ashraf Aboulnaga。论文一作 Aisha Mohamed 为 QCRI 的助理研究员。

第四范式主任科学家涂威威在现场为 Aisha Mohamed 颁布最具科学含量奖

在这篇文章中,作者特别强调了知识图谱中实体与关系非常不均衡的现象,传统的评价指标例如 hits@k, 并不能很好的处理这些 bias,因此作者提出了新的评价指标「strat-hits@k」,这是一个基于实体、关系受欢迎度的无偏估计指标。

最佳口头报告奖(Best Oral Presentation)

获得 New in ML 2019 最佳口头报告奖的论文是《Augmenting Learning Using Symmetry in a Biologically-inspired Domain》,作者分别是来自哈佛、Google 和 DeepMind 的 Shruti Mishra、Abbas Abdolmaleki、Arthur Guez、Piotr Trochim 和 Doina Precup。论文一作 Shruti Mishra 博士就读的是哈佛大学约翰保尔森工程与应用科学学院的应用数学系。

论文链接:https://arxiv.org/abs/1910.00528

在监督学习,如图像分类任务中,旋转、迁移和尺度缩放被用于进行数据增强。受图像数据增强的启发,文章提出在强化学习仿真环境中,利用对称关系,让 Agent 能够在数据有限的情景下,扩充训练数据,可以显著提高训练效率,同时能够使得 Agent 学习对称不变性。该方法从进一步应用的层面上讲,可以加快机器人现实应用中的学习速度。

入门Yoshua BengioNeurIPS 2019第四范式
暂无评论
暂无评论~