随机连接神经网络性能超过人工设计!何恺明等人发布新研究
在论文《Exploring Randomly Wired Neural Networks for Image Recognition》中,来自 FAIR 的研究人员谢赛宁、Alexander Kirillov 、Ross Girshick 与何恺明通过随机神经网络连接的方式探索了比此前神经架构搜索更为广泛的连接形式,并实现了很好的效果。首先,研究人员定义了一个随机网络生成器的概念,它封装了整个网络的生成过程。这一封装提供了 NAS 和随机连接网络的统一视图。然后,研究人员使用三个经典随机图模型为网络生成随机连接图。结果令人惊讶:这些随机生成的网络变体在 ImageNet 图像识别基准测试中有着非常具有竞争力的准确率。这些结果表明,相比于小搜索空间,专注于设计更好的网络生成器或许可以带来更大的技术突破。