刚刚结束的AI盛会NIPS 2017上,你需要知道的所有细节

伴随着最后一个 Workshop 的结束,第 31 届神经信息处理系统大会(Neural Information Processing Systems,NIPS)已于美国时间 12 月 9 日晚落下帷幕。本次大会期间,机器之心派出分析师团队进行了现场报道,为大家带来了学界的最新动态和热点。NIPS 2017 结束一周之后,机器之心结合公开数据与现场调查,精心制作了一系列数据信息图,从论文接收情况、会议设计、赞助商、技术热点等多角度为读者图解 NIPS 2017 的各个侧面。


据 NIPS 2017 组委会官方统计,本次大会注册人数超过 8000 人;共收到 3240 篇提交论文,其中有 20.9% 被组委会接收;议程包括 679 个 Poster 演讲,40 个长演讲 (Oral), 112 个短演讲 (Spotlight),9 个受邀演讲 (Invited Talk),4 个专题研讨会(Symposium), 9 个 Tutorial,52 个 Workshop, 5 个官方挑战赛(Challenge) 以及 20 个现场展示 (Demonstration)。(*注:下表中作者数量未进行去重)


赞助商的贡献


随着人工智能技术的日益成熟和产业化,产业界在 NIPS 的参与逐渐变得不容忽视。除了提交公司实验室发布的论文之外,赞助大会是产业界参与的 NIPS 的另一种方式。机器之心就 NIPS 2017 官方参会手册中列出的赞助商进行了简要的分析,希望可以从另一个侧面为读者展示产业界在 NIPS 的参与情况。需要说明的是,以下分析均建立在所有赞助商均根据 NIPS 官网的标价进行贡献的假设上。



第 31 届 NIPS 共吸引了 84 家赞助商,相较去年的 64 家,同比增长 31.5%。在赞助商种类上,2017 年 NIPS 添加了官方标价为 8 万美金的 Diamond 类别,其余保持不变;Platinum 赞助商标价由去年的 2 万 5 千美金张至 4 万美金,涨价 60%。其余金银铜类赞助商的价格与上一年度持平。


显然,飙升的赞助商费用并没有浇灭赞助商的热情。选择了新增类别顶级钻石的 5 家赞助商毫不吝啬地贡献了 40 万美金;相对实惠的 Glod 及 Silver 类别赞助商大幅增加,其中 Silver 类别由上一年度的 9 家增至 15 家,同比增长 104.76%,是赞助商增加最多的赞助类别; 唯一赞助商数量缩水的是最便宜的 Bronze 类别,同比减少 70%,不确定是否与主委会对赞助商进行了更严格的筛选有关。


84 家赞助商共为 NIPS 2017 贡献了 176 万美金,较去年的 84 万美金增幅超过一倍。其中,美国,英国,中国,加拿大及德国为赞助商贡献总资金来源做多的五个国家。来自这五个国家的赞助商为本次大会贡献了超过 90% 的赞助费。


另外一个有趣的发现来自于对赞助商所属行业的分析。不出意料,与往年相似,约半数的赞助商来自于科技行业。在科技行业之外,金融行业是赞助商的第二来源。2016 年,总计有 17 家赞助商来自金融行业,约占全体赞助商的 27%。2017 年,来自金融行业的赞助商占总赞助商的比重保持稳定,并略有增幅,约为 28%。但有意思的是,这些来自于金融行业的赞助商的平均贡献额却低于平均赞助额近 25%。


通过现场与金融公司站台的工作人员的调查访谈,机器之心了解到这些金融公司的主要目的为招募人才及了解技术发展动态;这些金融公司对于自己希望招募的人才类型理解水准良莠不齐,其中几家有知名学者坐镇的金融公司的展台人员可以给出较为明确的人才研究方向的描,但另一些却只能给出非常含糊的描述例如「博士第三年以上」或「能进行基于大数据的分析」等。


论文提交热点子领域


据组委会官方统计,本次 NIPS 的论文覆盖 9 个一级领域以及 156 个子领域,子领域同比增长 150%,相较去年呈现了更像的多样性。根据提交论文数量进行排列,最热的三个子领域依次为:

  1. 算法 (Algorithm)
  2. 深度学习 (Deep Learning)
  3. 应用(Application)


标题党的偏好


机器之心分析师提取了本届 NIPS 2017 所有演讲及 Poster 标题中的技术关键词,并根据其出现的频率生成了以下关键词云。


不出意料,Learning、Deep、Neural Networks 占据了最大的权重。 而 Stochastic method、optimization、Bayesian、reinforcement learning、adversarial、inference、Gaussian Process 等相关方法也吸引了一定的研究热度。有趣的是,Reinforcement Learning 及 Data 在子领域排名中较靠后,但在标题中的出现频率则相对较高。


参会动机


据机器之心对近百位 NIPS 2017 现场参会者的抽样问卷结果显示,超过四分之三的受访者表示了解研究动态是在进行自己的工作演讲之外的第一参会动机。此外,约 15% 的受访者则表示第一参会动机为建立社交关系;另有约 7% 的受访者的第一参会动机为寻找工作机会。


围观那些事儿


本届 NIPS 大会在 Facebook 上进行了大部分演讲的直播(但并没有 Symposium 和 Workshop),截至大会落幕后一周,大部分视频的围观次数 (Views) 停留在 200~900 的范围内。其中两个视频的观看次数远远高于其他视屏。Yann LeCun 点赞分享的视频 Geometric Deep Learning on Graphs and Manifolds 获得了 8.3k 次的观看,而包含了 Deep Genomics 创始人 Brendan Frey 的受邀演讲以及本届 Test of the Time Award 论文的作者 Ali Rahimi 包含引起争议的「Machine Learning has become Alchemy」言论的演讲视频 Keynote: Brendan Frey, Why AI Will Make it Possible to Reprogram Human Genome 获得了 1.9K 次的观看。对于围观群众来说,学术会议和其他网络视频一样,名人分享及争议事件所带来的浏览量显著。


那么现场的参会者的关注点又在哪里呢?


NIPS 2017 官方参会 App 有将演讲 Session 加入个人时间表的功能。根据官方参会 App 中参会者将 Session 的情况,我们可以大致了解参会者的关注点。


除去第一、二、三日晚的 Poster Session 之外,参与人数最多的为第一天位于 Hall A 的 Tutorials,包含以下几个演讲:「Deep Learning: Practice and Trends」、「Deep Probabilistic Modelling with Gaussian Processes」、「Geometric Deep Learning on Graphs and Manifolds」。



而在所有的 Session 中,满意度(Liked/Marked)最高的是周四下午的 Kinds of Intelligence 专题研讨会(详细内容见机器之心早先报道),其次为 Neuroscience。



在 Workshop 方面,Mark 人数最多的为「深度学习:连接理论与实践」,遥遥领先于第二梯队的「贝叶斯深度学习」,「机器学习系统」以及「分层强化学习」。



Workshop 主题设计更加具有针对性,五、六两日 Workshop 的整体满意度略微高于前四日的常规议程在意料之中;满意度较高的 Workshop 的规模相对较小,满意度最高的 15 个 workshop 中,仅有 5 个 workshop 的 mark 人数超过中位数 324.5。Mark 人数及满意度均排入前十 Workshop 并不存在,均排入前十五名的 Workshop 有两个,分别为 Machine Learning for Creativity and Design 以及 Conversational AI - today's practice and tomorrow's potential。



机构论文发表排行榜


根据 Infinia.ML CEO 及执行总裁 Robbie Allen 在 Medium 发布的 NIPS 2017 接收论文统计数据,本次被接收论文最多的学术机构前三名分别为卡耐基梅隆大学(CMU)、麻省理工学院(MIT)及斯坦福大学;被接收论文最多的公司为谷歌,微软及 IBM。Robbie Allen 同时还对发布论文最多的作者,第一作者及通讯作者等进行了更详细的分析,感兴趣的读者可以阅读 Robbie Allen 的原文进一步进行了解(https://unsupervisedmethods.com/nips-accepted-papers-stats-26f124843aa0)。




关于 NIPS 2017,一些有趣的事实


  • 吴恩达为 NIPS 2017 第一大「网红」,Ian Goodfellow、Yann LeCun、Andrej Karpathy 和李飞飞紧随其后

Los Andes 大学助理教授及加州大学伯克利分校远程讲师 John Alexis Guerra Gómezd 通过对 496 个使用 #NIPS2017 发推超过 5 条的账户关注对象进行分析,找出了 737 个这些账户跟踪最多的账户。其中 NIPS 2017 的关注者关注最多的为吴恩达,获得了 496 个账号中 359 个账号的关注;Ian Goodfellow 获得了 340 个;Yann LeCun 与 Andrej Karpathy 并列第三获得 333 个,斯坦福大学计算机系副教授、谷歌云首席科学家李飞飞获得 312 个。



  • 在社交、问主办方和找工作之外,关于医疗行业的参会者官方讨论组最为活跃

本次 NIPS 使用的官方参会 App 有发起主题讨论组的功能,但大部分的主题讨论组并没有太多的积极讨论。其中较为活跃的讨论组(截止大会结束后一周内超过 100 条交流信息)不超过 30 个。在机器之心进行追踪的 25 个较为活跃的小组中,仅有 8 个是由学术主题相关,1 个是专门的 Job Posting,其他大部分为基于来自区域或与学术主题无关的兴趣社交。这 8 个学术相关主题分别为:

  1.  Machine Learning for Healthcare
  2.  Medical Image Analysis
  3.  Deep Reinforcement learning
  4.  AI and ML in Education
  5.  Text Classification/NLP Meetup
  6.  Deep Learning in Genomics
  7.  Conversational Agents


  • Kaggle 联合创始人及 CTO Ben Hammer 对历年 NIPS 论文所使用的数据积进行了统计,并发现 MNIST 为 2017 年 NIPS 接收论文中最多次被 reference 的数据集,遥遥领先于其他数据集;排名 2-5 位分别为:CIFAR、ImageNet、 VGG 以及 UCI。



参考资料


https://nips.cc/Conferences/2017/Schedule

https://unsupervisedmethods.com/nips-accepted-papers-stats-26f124843aa0 (https://unsupervisedmethods.com/nips-accepted-papers-stats-26f124843aa0%EF%BC%89)

http://johnguerra.co/viz/influentials/NIPS2017/

https://www.kaggle.com/benhamner/popular-datasets-over-time


延伸阅读


  • NIPS 2017 首日亮点全解读:四大获奖论文结果揭晓
  • NIPS 举办了第一场记者发布会:请媒体警惕这波 AI 热潮
  • NIPS 2017 经典论文奖获得者机器学习「炼金术」说引热议,LeCun 发起反驳
  • NIPS 大会最精彩一日:AlphaZero 遭受质疑;史上第一场正式辩论与 LeCun 激情抗辩;元学习&强化学习亮点复盘

理论NIPS 2017NIPS
1
之乎
之乎

Chain Zhang 机器之心

返回顶部