最近,美国人工智能芯片初创公司 Syntiant 公布了一款超低功耗芯片,可以在 1mW 的功耗下玩《毁灭战士》。
一个 1 毫瓦的机器学习芯片可以做很多事情,不过像玩《毁灭战士》(Doom)这样充满想象力的做法却很少见。最近几日,在旧金山举行的 2023 IEEE ISSCC(International Solid State Circuits Conference)大会上,总部位于加州欧文的 AI 芯片初创公司 Syntiant 详细介绍了他们的产品 NDP200—— 一款超低功耗芯片,主要用来运行监控视频的神经网络,并在发现重要事件时唤醒其他系统。如下为 NDP200(Neural Decision Processor)玩《毁灭战士》的演示视频片段。Syntiant 使用了基于 Doom 的 AI 研究平台 VizDoom,这在 AI 研究中很受欢迎。团队使用强化学习来训练多层神经网络,其中第一层负责理解网络看到的内容,而最后一层负责采取响应行动。总的来说,这个网络由大约 60 万个参数组成。虽然没有 ChatGPT 所需的亿级规模参数,但仍然要比监听「OK, Google」这类关键短语所需的 10000 个参数强大得多。NDP200 有 640 kilobytes 的板载内存用于神经网络参数。图源:https://www.syntiant.com/ndp200如上展示的片段中的游戏关卡叫做「保卫圆圈」,它让玩家在一个圆形房间内移动,射击面前的怪物。IEEE Fellow、前 Syntiant 高级工程师副总裁 David Garrett 表示,在训练中,神经网络必须首先识别怪物,然后学习射击它们。在第一次杀死猎物后,系统会卸载 clip(可以理解为一种文件类型),但后来发现这不是一个好办法。因此,系统很快就学会了节省弹药。尽管《毁灭战士》的演示非常精彩,但 NDP200 还有更多实际用途。Garrett 指出,它有能力进行人体轮廓检测,这是一项通常由更强大的处理器完成的关键任务。Syntiant 芯片可以运行人体检测,作为家庭或汽车安全系统的节能步骤。为了展示其能源效率,Syntiant 将 NDP200 与基于 Arm Cortex A53 的处理器进行了比较,该处理器运行了 20 万个参数版本的 MobileNetV1,这是 MLPerf 用来判断系统对视觉唤醒词响应情况的测试。NDP200 每次扫描图像只使用 166 微焦耳,大约是 Arm 处理器的 1/100。因此,Syntiant 芯片每秒可以扫描 6 帧视频,而耗电量为 1 毫瓦。这款芯片并没有那么神秘,它有一条定制的路径,数据在芯片的神经决策处理器中流动。据 Garett 介绍,它尽可能充分利用了芯片的乘法累加单元,即机器学习计算的核心,将高达每秒 9 gigabytes 的数据带宽传输到神经核心。Garrett 不愿透露 Syntiant 下一步的技术发展,但他表示会有更多有趣的应用。他说:50 万个参数足够做出真正的好东西了。原文链接:https://spectrum.ieee.org/syntiant-chip-plays-doom