产业资讯方案大厅机构大厅

深度学习MACE框架

小米科技有限责任公司

产品描述

为移动端芯片优化的深度学习框架,实现设备端上的深度学习推理

对于深度学习框架,尤其是推理框架,最核心的部分是高性能的 kernel 实现。MACE 的 NEON, GPU 的 kernel 实现均达到较高水平,同时对于 Hexagon DSP 也进行了支持和优化。 目前,MACE 支持主流的 CNN 模型,同时也支持机器翻译、语音识别的部分模型。除此之外,与 MACE 一同开源的,还有 MACE Model Zoo 项目,这个项目聚合了一些常用的深度学习模型。 MACE 的核心框架是 C++,算子分别设计为 OpenCL 和汇编语言,具体选择哪个取决于底层的硬件,而周边工具则采用了更灵活的 Python。 目前,MACE 只支持安卓和 Linux。 MACE 提供了丰富的文档和 Model Zoo,让开发者可以快速入手,且兼容主流的 ARM CPU 和常见的移动端 GPU,开发者可以灵活地选择不同的 CPU/GPU/DSP 计算设备。

研发机构