泽南、小舟报道

杜克大学宋凌皓获EDAA最佳博士论文奖:连中四届HPCA的体系结构大牛

又一名计算机架构大牛获奖了。

今晨,体系结构领域又有好消息传出,刚刚获得杜克大学博士学位的宋凌皓(Linghao Song)收获了 EDAA 最佳博士论文奖。

宋凌皓 2014 年毕业于上海交通大学,获得信息工程专业学士学位,随后进入美国匹茨堡大学攻读电子和计算机工程硕士。2017 年,他进入杜克大学读博,师从杜克大学电子与计算机工程系教授、计算进化智能中心主任、IEEE Fellow 陈怡然教授。在研究生涯中,宋凌皓主要关注机器学习加速器、计算机架构、深度学习应用等领域。

从 2017 年到 2020 年,宋凌皓的研究连续四年出现在了计算机体系结构顶会,IEEE 举办的高性能计算架构国际研讨会(International Symposium on High-Performance Computer Architecture,HPCA)上。在体系结构方向上,ASPLOS、ISCA、MICRO 和 HPCA 被认为是四大重要会议。

据谷歌学术统计,宋凌皓的研究被引用次数已达到 800 余次。

2020 年,宋凌皓博士毕业,目前他已成为加州大学洛杉矶分校(UCLA)计算机科学系的一名博士后。

宋凌皓获奖后,陈怡然教授立即发出了祝贺。

EDAA 最佳博士论文奖是欧洲设计自动化协会(European Design and Automation Association)设立的奖项,每年为四个大方向(软件设计和优化,SoC 设计、体系结构,逻辑、物理设计,硬件安全、可靠性)各奖励一人。在宋凌皓之前,曾有多位华人获得过这一奖项。

宋凌皓的博士论文展示了近年来他在深度学习领域里对于异构加速器的研究成果。

论文:Accelerator Architectures for Deep Learning and Graph Processing

论文链接:https://dukespace.lib.duke.edu/dspace/handle/10161/21507

深度学习和图处理两种大数据应用已经广泛应用于许多领域。深度学习的训练对于推理是必不可少的,这一方面尚未得到充分研究。通过数据 forward,误差 backward 和梯度计算,深度学习训练已经成为一种更复杂的处理过程,涉及到更高的计算和通信强度。

然而,将计算分布在多个异构加速器上以实现高吞吐量和平衡的执行状态仍然是颇具挑战性的问题。在该论文中,研究者提出一种原则性和系统性的方法,用于确定多个异构加速器的张量分区以有效地进行训练加速。新兴的可变电阻式存储器(ReRAM)有望用于存储器(PIM)中的处理。为了在基于 ReRAM 的 PIM 加速器中实现高吞吐量的训练加速,研究者提出了 PipeLayer,这是一种用于分层流水线并行性的架构。

图处理的局部性较差,对存储器带宽的需求较高。在常规架构中,图处理会导致大量的数据移动,耗费大量资源。研究者提出了 GraphR,这是第一个基于 ReRAM 的图处理加速器。它遵循 near-data 处理原则,并探索了以较低的硬件和资源成本执行大规模并行模拟操作的可能。

稀疏矩阵向量乘法(SpMV)是图处理的一个子集,它是科学计算的迭代求解器中的关键计算。ReRAM 中的有效加速浮点处理仍然是一个挑战。在该论文中,研究者提出了一种数据格式 ReFloat,和一种支持的加速器架构,用于面向科学计算的 ReRAM 中的低成本浮点处理。

参考内容:
https://www.edaa.com/awards.html
理论计算机架构杜克大学
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

张量技术

张量是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数,这些线性关系的基本例子有内积、外积、线性映射以及笛卡儿积。其坐标在 维空间内,有 个分量的一种量,其中每个分量都是坐标的函数,而在坐标变换时,这些分量也依照某些规则作线性变换。称为该张量的秩或阶(与矩阵的秩和阶均无关系)。 在数学里,张量是一种几何实体,或者说广义上的“数量”。张量概念包括标量、矢量和线性算子。张量可以用坐标系统来表达,记作标量的数组,但它是定义为“不依赖于参照系的选择的”。张量在物理和工程学中很重要。例如在扩散张量成像中,表达器官对于水的在各个方向的微分透性的张量可以用来产生大脑的扫描图。工程上最重要的例子可能就是应力张量和应变张量了,它们都是二阶张量,对于一般线性材料他们之间的关系由一个四阶弹性张量来决定。

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

暂无评论
暂无评论~