忘了智能手机吧,Edge AI搭配Cortex M系列才是王道

如果你一直关注机器学习领域的发展,那你可能已经了解,现阶段AI行业蓬勃发展最重要的催化剂就是将GPU应用于大规模神经网络的训练中。然而,GPU和神经网络不是万能的解药,起码对于Edge AI领域来说,并不是。

如果你一直关注机器学习领域的发展,那你可能已经了解,现阶段AI行业蓬勃发展最重要的催化剂就是将GPU应用于大规模神经网络的训练中。然而,GPU和神经网络不是万能的解药,起码对于Edge AI领域来说,并不是。

尽管很多企业经常用智能手机上的Edge AI技术作为案例来教育用户,但是在“高度受限的环境”这个概念下(因为Edge本身就意味着环境受限),将智能手机与其他Edge设备相比,例如Cortex M0,就像是让体重超过90公斤的举重选手参加30公斤级别的比赛。

事实上,真正让Edge AI引起广泛关注的原因正是在Cortex M系列这样的产品上机器学习是如何实现的。

当然,目前已经出现不少在Cortex M系列上运行机器学习的尝试了,但是这些尝试大多是在进行了功能扩展的定制化硬件上完成的。Qeexo则成功地开发出了一个全自动化的平台来构建机器学习模型,可以不依赖于定制化的硬件在Cortex M系列上部署机器学习

如果你对边缘设备性能差别不够了解,下面这些数据应该可以说明一些问题。

来自SysML 2019, Ofer Dekel,Compiling AI for the edge

尽管表格中智能手机这一栏已经是数年前的旧数据了,但不同设备之间的差别已经非常明显,就算拿Raspberry Pi与Cortex M系列相比,它们的差距也是巨大的。这些数据显然可以说明在智能手机上实现Edge AI与在Cortex M0上实现Edge AI是完全不同维度的两件事情。

在现实生活中,大量亟待Edge AI发挥作用的正是像Cortex M0-M4这样运算能力弱,内存非常小,同时还受到电池寿命严格限制的设备。

例如,在哈利波特电影中,魔法师们可以用魔杖配合咒语完成各种神奇的操作,像是隔空取物,或者石化敌人,在现实生活中当然不可能有这样的魔杖,但如果你只是想拥有一款能够识别不同的手势,从而展示不同的声光效果的玩具魔杖,却并非不可能。

一家台湾的厂商就希望能够为小朋友们做出一款这样的玩具魔杖,功耗和识别准确率就是这款产品的生命线。虽然现代人已经习惯了出门随身携带充电宝来保证手机的续航,但是我们不能期望拿着魔杖愉快玩耍的小朋友能够安静地暂停游戏给玩具充电。同样,如果当小朋友拿着魔杖在空中做出了漂亮的动作(AI手势识别),而魔杖却无法给出他所期待的结果,我们也很难想象这款玩具会得到孩子们的青睐从而获得成功。对于玩具来说,在生产成本的限制下,Cortex M系列的MCU显然是厂商的最佳选择。

又例如,曾经在众筹平台Kickstarter大受欢迎的Blink Camera,这款摄像头最大的特点是,不用连接任何线路,只需要两颗纽扣电池,就能工作一整年,你只需要找一个平整的地方就可以将这款摄像头安装上去,不管是墙壁上,窗户上,还是屋顶上。要做到仅靠2颗电池就工作一整年,让整套系统尽量保持低功耗运作,就是最重要的问题,Blink采用的解决方案是内置动作感应器,一旦检测到异常(AI侦测物体的运动),与感应器联动的电路则会激活摄像系统,其他时间摄像头则处于待机状态,这也就是我们上面提到的受到电池寿命严格限制的典型案例。

在现实生活中,这样的案例还有很多。例如,在可穿戴领域,功耗一直是厂商们关注的重点,在桥梁、建筑的质量监测,管道泄漏监测等领域,都需要功耗优秀,成本可控的解决方案,能够在低成本MCU上运行的Edge AI无疑是更好的选择。所以,尽管人脸识别,自动驾驶等AI话题一直占据着媒体头条,但是认识到机器学习可以帮助更广泛的边缘设备,或许才是人工智能行业在下一个十年持续繁荣的重要推动力。

Qeexo
Qeexo

Qeexo是第一家为嵌入式边缘设备(Cortex M0-M4级别)提供自动化端到端机器学习服务的公司。在Qeexo AutoML的支持下,Qeexo已经将机器学习部署到全球范围内超过2.1亿台消费者设备上。

http://www.qeexochina.cn
专栏二维码
产业AI机器学习Edge AI
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

准确率技术

分类模型的正确预测所占的比例。在多类别分类中,准确率的定义为:正确的预测数/样本总数。 在二元分类中,准确率的定义为:(真正例数+真负例数)/样本总数

推荐文章
暂无评论
暂无评论~