LightOn 研究人员解释了他们如何在光学协处理器上训练 AI 模型
在 arXiv 上发表的一篇新论文中,来自专门开发用于 AI 应用程序的光学计算硬件的初创公司 LightOn 的研究人员,详细介绍了他们能够加速 AI 模型训练的光学协处理器之一。在对流行的 MNIST 手写数字数据集进行的实验中,他们的协处理器(光学处理单元)帮助训练了一个模型,能以 95.8%的精度识别数字,并在图形卡上进行训练的模型则达到 97.6%的精度。光子集成电路是 LightOn 芯片的基础,与电子同类产品相比,具有许多优势。它们只需要有限的能量,因为光产生的热量比电少,并且不易受到环境温度,电磁场和其他噪声变化的影响。与硅等效产品相比,光子设计中的延迟提高了 10,000 倍,而功耗水平却降低了「几个数量级」,而且,某些模型的工作负载运行速度比最新的电子芯片快 100 倍。根据该论文,LightOn 研究人员使用一种内部光学芯片,该芯片经过修改以包括离轴全息术(即参考光束与物光束之间的小角度,可以防止重叠),并与一种称为直接反馈对准(DFA)的技术相结合。在机器学习中,DFA 将模型错误率的随机预测用作训练信号,这使构成模型的每一层都可以独立于其他层进行更新。(VentureBeat)