Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

获1000万美元捐款,用于代码重构、上云,论文预印版平台arXiv「好起来了」

上云、代码重构一起来。

对于节奏越来越快的学术研究领域而言,arXiv 是非常重要的论文预印版平台。和维基百科一样,它是个非营利性机构。

当地时间本周四,康奈尔大学科技校区(Cornell Tech)宣布了 arXiv 获得巨额捐款的好消息。

图片

作为一个非营利数据库,arXiv 是所有人均可以免费访问的,长期以来一直依赖人们的捐赠。康奈尔科技校区宣布,西蒙斯基金会和美国国家科学基金会(NSF)已提供了总额超过 1000 万美元的赠款以支持 arXiv。

据介绍,这笔资金将使这个拥有超过 200 万篇论文的研究存储库迁移到云端,并对其代码进行现代化改造,以确保更高水平的可靠性、容错性和可访问性。

应该过不了几天,我们加载 arXiv 上 PDF 的速度就会加快,或许可以直接在网页上就能看论文了。

「我非常感谢西蒙斯基金会和美国国家科学基金会的巨大支持,」康奈尔科技校区杰克和里拉・尼夫西院长兼副教务长 Greg Morrisett 说道。「这项投资可以确保 arXiv 服务继续扩大规模,为更广泛的受众提供服务,并更好地为科学界服务。」

康奈尔科技校区计算机科学教授 Ramin Zabih 表示:「通过对代码库进行现代化改造并过渡到云端,我们正在加强 arXiv 的基础设施建设,并确保它持续成为学术出版物共享方面的创新源泉。」

arXiv(发音为 “archive”)于 1991 年由当时的洛斯阿拉莫斯国家实验室物理学家 Paul Ginsparg 博士创立,他当时希望对大约 100 篇研究论文进行分类。当论文如潮水般涌来之后,他尝试借助计算机程序来解决问题,据说他「通过参加十多年的机器学习研讨会」学会了如何编写该程序。

图片

                           Ginsparg 现在是康奈尔大学的物理和信息科学教授。

该论文平台现在由康奈尔大学图书馆负责维护和运营,是一个巨大的学术论文预印本存储库,收集了已发表和大量尚未经过同行评审过程,或不打算在参考期刊上发表的文章。

目前 arXiv 涵盖的分支学科已包括自然科学和社会科学的多个领域,包括物理、数学、计算机科学、量化生物学、量化金融、统计学、电气工程和经济学。截止到 2022 年底,在 arXiv 上的投稿已经超过了 220 万篇。

图片

由于 arXiv 的吸引力很大,很多领域的研究人员会在学术顶会或者期刊没有录用之前,就把自己的最新研究成果「提前发表」到这个平台上。一般人们认为这样做的好处在于「占坑」和宣传:既可以保护自己的 idea,又能扩大宣传提升学者自身的影响力。与此同时,这种做法也大大加快了学界信息传播的速度。

相比之下,即使在今天节奏较快的 AI 领域,无论会议还是期刊论文从投稿到最终可见都需要数月时间的等待,有时在此期间甚至已经出现了新的方向。

因此,arXiv 逐渐成为了很多学术领域,如数学和计算机科学的首选「投稿」地点。时至今日,经常刷 arXiv 成为了不少学者的习惯。在人工智能领域内,很多被 NeurIPS、CVPR、AAAI 等顶会收录的文章曾被提前投放在 arXiv 上获得曝光。另一方面,由于其没有非常有效的筛选机制,平台上也有很多质量较低的论文,这或许会是获得新注资后 arXiv 尝试改变的方向。

大多数时候,是否被重要期刊会议接收是评价论文质量的重要标准。不过在 arXiv 出现后,也有很多被顶会遗漏的论文在学界发挥了重要的影响力,收获了众多引用。在人工智能领域里,我们可以轻易列举出一些在 arXiv 上出现且家喻户晓,但曾被 AI 顶会拒稿的文章,比如 YOLO、transformer XL、Dropout 的研究。

计算机视觉领域里著名的目标检测算法 YOLO,其论文至今被引用数已经超过 4 万,不过当初它曾被 NIPS 拒稿,修改后转投 CVPR 2016 获得了接收。

图片

2012 年,后来的图灵奖获得者 Geoffrey Hinton 在论文《Improving neural networks by preventing co-adaptation of feature detectors》中提出了 Dropout。同年,AlexNet 的出现开启了深度学习的新纪元。AlexNet 使用 Dropout 显著降低了过拟合,并对其在 ILSVRC 2012 竞赛中的胜利起到了关键作用。可以认为如果没有 Dropout深度学习的大发展可能会被推迟数年。

不过这篇论文被 NIPS 2012 拒绝,现在还是 arXiv 上的预印版状态。

图片

承载了先进科学希望的 arXiv 平台,未来会发展成什么样?

康奈尔大学表示,arXiv 开发的下一阶段将包括雇用更多软件开发人员来支持现代化工作。与此同时,计算机科学系的教职员工将在 NSF 的资助下开发新的搜索和推荐技术,这些技术计划用于支撑 arXiv 的大型用户社区,且会得到最先进的隐私保证的支持。此外,arXiv 将通过生成 HTML 和 PDF 版本的内容,为视障人士提供更好的访问。

1000 万美元的资金将很大程度上增加 arXiv 的实力。相比之下,arXiv 在 2021 年的总花费为 242 万美元。

在收获捐赠新闻发出后,人们纷纷叫好,并期待预印版平台未来的进化。

图片

参考内容:

https://news.cornell.edu/stories/2023/10/research-repository-arxiv-receives-10m-upgrades

https://news.ycombinator.com/item?id=37949656

https://medium.com/nautilus-magazine/what-counts-as-science-76ebd1f5d403

产业
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

Dropout技术

神经网络训练中防止过拟合的一种技术

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

YOLO技术

YOLO 模型最早是由 Joseph Redmon 等人在 2015 年发布的,并在随后的两篇论文中进行了修订。

计算机视觉技术

计算机视觉(CV)是指机器感知环境的能力。这一技术类别中的经典任务有图像形成、图像处理、图像提取和图像的三维推理。目标识别和面部识别也是很重要的研究领域。

数据库技术

数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。 所谓“数据库”系以一定方式储存在一起、能予多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。

过拟合技术

过拟合是指为了得到一致假设而使假设变得过度严格。避免过拟合是分类器设计中的一个核心任务。通常采用增大数据量和测试样本集的方法对分类器性能进行评价。

目标检测技术

一般目标检测(generic object detection)的目标是根据大量预定义的类别在自然图像中确定目标实例的位置,这是计算机视觉领域最基本和最有挑战性的问题之一。近些年兴起的深度学习技术是一种可从数据中直接学习特征表示的强大方法,并已经为一般目标检测领域带来了显著的突破性进展。

量化技术

深度学习中的量化是指,用低位宽数字的神经网络近似使用了浮点数的神经网络的过程。

推荐文章
暂无评论
暂无评论~