杜芹 作者

​嘉楠科技:边缘侧AI芯片该如何做?

做AI芯片,“现在是最好的时代,也是最坏的时代”。张楠赓认为现在芯片的热度足以用“夏天”来形容,这家做矿机起家的企业,为何会选择做AI芯片?而且在巨头纷纷发力云端AI的时候,嘉楠科技如何会选择在端侧布局?该怎样做好AI产品?这些问题都在7月26日以“AI唤醒生活智能”为主题的沙龙中得到了一一印证,嘉楠科技董事长兼CEO张楠赓与现场20位关注AI领域的媒体人进行了深入交流。

为什么说现在是做AI芯片最好的时代,也是最坏的时代,张楠赓认为,好的一面是政策扶持,资金的大量涌入,给AI芯片的发展带来了足够宽阔的市场空间;坏的一面则是行业标准缺失,人才缺乏,以及市场和生态的不成熟。

为什么做AI芯片?

2005年北航计算机毕业的张楠赓,在航天科工事业集团工作了3年,这3年培养了他对技术一丝不苟,对工作认真负责的航天人精神。由于张楠赓不断求新的精神,3年后他选择回校继续深造,然而在学校深造的时候,他接触了比特币这个新奇的东西,他认为,新技术能否改变世界,商业模式能否最后成功,最根本的是能否提高整个社会的生产力。

2012年9月,他决定退学做比特币挖矿机,几个月后,嘉楠科技创立,2013年1月31号嘉楠科技把第一台矿机交到到用户手里,15年区块链概念出现以后,得到了大家广泛重视,他认为改变世界的可能性又变大了一点。

嘉楠科技历史

除了矿机,还能做些什么?2016年,AI开始进入大众视野。彼时嘉楠科技就成为国内前十能够实现量产16nm芯片的公司,并已着手AI芯片的研发。张楠赓表示,“AI芯片在很大程度上冲击了传统计算架构,它对数据流的处理与区块链芯片有很多共同点,这对我们而言是一个非常大的机遇。”

所以嘉楠科技选择做AI芯片主要有两方面的原因,一是张楠赓本人不断探索新事物的特点,“一个行业如果已经有做的不错的公司或者产品了,比如说做CPU,那就不想去做了。而AI芯片直至现在这么多年过去了,还是没有发展的特别好,这种行业才适合创业者去尝试”。另一方面张楠赓认为,AI芯片在很大程度上冲击了传统的计算架构,它对数据流的处理,从技术角度来看,跟矿机芯片有着相当的共同点,这对我们而言是一个非常大的机遇,再加上5G技术的突破能够在未来实现更多碎片化设备的应用。

在端侧AI芯片的蓝海中探寻

不得不说,从整个行业环境来看,芯片巨头大都在云端AI芯片角逐。以Nvidia为代表牢牢占据AI芯片榜首,之后则是英特尔、谷歌、高通等一众巨头。但是云端AI芯片,无论从技术门槛还是对企业生态的要求都更高。巨头林立,留给创业公司的市场空间相对狭窄。

“在端侧,AI芯片市场还处于完全的蓝海状态,需要有人在汪洋大海一样的场景中捕捉机会”,张楠赓在会上提及,“AI在端侧市场极其不成熟,例如智能门锁行业,初期的时候连国家标准都没有;再比如智能门铃,最主流的产品甚至还无法识别摄像头前面的物体是不是人”。

随着产品在各个场景的交付使用,张楠赓逐渐意识到传统芯片的软肋。传统芯片行业普遍采用单一售卖模式,产品缺乏用户黏性。对此他表示,嘉楠科技不做单一芯片售卖,而是遵循互联网的商业模式,快速迭代产品,根据客户需求提供可持续性的服务。

“国内通用AI芯片领域,我非常看好华为和阿里,他们既有场景,也有技术。但是在端侧AI,我认为我们在区块链领域的优势会得到体现。”张楠赓说。

AI的突破为芯片产业带来了新的场景。例如新零售领域,嘉楠科技的思路是不以回传原始数据作为卖点。张楠赓解释,“比如做新零售时需要架一个摄像头在门店,那个摄像头后面就是我们的芯片了,它返回视频的原始数据,而是结构化的数据,这是特别大的不同。”

目前,嘉楠科技正以芯片为基础,将硬件模组,算法,ODM和OEM产品交付给客户。同时,在中间层,嘉楠科技着力数据中台建设,对边缘侧的数据统一加工为结构化数据,为上层业务系统提供通用化的平台。

嘉楠怎么做AI产品?

张楠赓认为,过去在芯片工艺和电路设计上,大家一般吃工艺的宏利,而不注重底层的优化。嘉楠科技决定把这件事情捡起来,重新做优化。在算法设计趋向一致的情况下,芯片之争的焦点主要在于算力。当端侧的应用场景逐渐固定,算法和体系结构会达到相对稳定的阶段,最后比的就是更低的能耗和更高的计算效率,这正是嘉楠科技的优势所在。

以边缘侧AI为起点,嘉楠科技在2018年发布了一代芯片勘智K210,可在仅0.3W的功耗下提供1TOPS的算力支撑。这款芯片,绝不是所谓只能看到宣传资料,但是却没有渠道采购的“PPT芯片”,客户直接就可以在嘉楠的网店或百度AI市场的渠道中购买到。

勘智K210芯片及开发板

张楠赓说到:“任何对我们的芯片感兴趣,无论是正面的意见,还是反面的疑问,你都可以通过直接买来的芯片去测试我们的性能”。这其实是一种对产品技术能力的自信,该芯片采用完全自研的神经网络处理器KPU。张楠赓明确表示,“自主研发能为我们带来长期优势。”张楠赓现场还总结了该芯片的三个特点。在架构上,芯片采用RISC-V作为指令集架构,相比Arm具备更好的可定制性。在功能上,该芯片视听兼具,可完成进行人脸检测和人脸识别,以及实时获取被检测目标的种类。芯片自带APU语音处理单元,无需占用CPU就能够实现声源定向、语音唤醒和识别等功能。

在他看来,芯片的设计中,技术与场景缺一不可。他表示,“传统芯片和用户的应用关系不大,但是AI芯片需要从场景出发做芯片的反向设计。”张楠赓以实际研发过程中的一个例子做阐述,“比如人脸识别现在1:1和1:N都没有太大问题,1:1就是开锁,1:N就是门禁,但是现在N:N比较差,N:N就是对大场景对所有人进行搜索,比如每秒扫描多少张。这就需要我们考虑达到怎样的性能才能满足客户需求。”

简言之,AI芯片的场景并非“人脸识别”式的泛泛而谈和标签化理解,而是根据具体业务需求来设计芯片,使其做到性能上的最优适配。目前,作为一款单芯片解决方案,勘智K210已经实现在智能门锁、无感门禁、智能电表、智慧酒店和病虫害防治等场景下的交付使用。其中,由嘉楠科技研发的无感门禁系统已部署至软通智慧总部大楼,实现日均每监控点2000次的识别数量。

勘智K210病虫害防治案例

结语

从边缘侧AI芯片入手,到数据中台,再到上层与云厂商、伙伴共建生态。嘉楠科技的发展路径已然清晰。“芯片能够把智能计算能力带到每个人的身边,它其实是通过给大家提供计算的方法去提升效率,改善用户的体验。”张楠赓这样界定嘉楠科技,“我们是一个用AI改善人类生活的公司,这是我们的根本愿景。”

半导体行业观察
半导体行业观察

最有深度的半导体新媒体,实时、专业、原创、深度,30万半导体精英关注!专注观察全球半导体最新资讯、技术前沿、发展趋势。

产业AI 基础设施智能芯片AI芯片​嘉楠科技
2
相关数据
英特尔机构

英特尔是计算创新领域的全球领先厂商,致力于拓展科技疆界,让最精彩体验成为可能。英特尔创始于1968年,已拥有近半个世纪产品创新和引领市场的经验。英特尔1971年推出了世界上第一个微处理器,后来又促进了计算机和互联网的革命,改变了整个世界的进程。如今,英特尔正转型成为一家数据公司,制定了清晰的数据战略,凭借云和数据中心、物联网、存储、FPGA以及5G构成的增长良性循环,提供独到价值,驱动日益发展的智能互联世界。英特尔专注于技术创新,同时也积极支持中国的自主创新,与产业伙伴携手推动智能互联的发展。基于明确的数据战略和智能互联全栈实力,英特尔瞄准人工智能、无人驾驶、5G、精准医疗、体育等关键领域,与中国深度合作。面向未来,英特尔致力于做中国高价值合作伙伴,在新科技、新经济、新消费三个方面,着力驱动产业协同创新,为实体经济增值,促进消费升级。

https://www.intel.com/content/www/us/en/company-overview/company-overview.html
相关技术
高通机构

高通公司(英语:Qualcomm,NASDAQ:QCOM)是一个位于美国加州圣地亚哥的无线电通信技术研发公司,由加州大学圣地亚哥分校教授厄文·马克·雅克布和安德鲁·维特比创建,于1985年成立。两人此前曾共同创建Linkabit。 高通公司是全球3G、4G与5G技术研发的领先企业,目前已经向全球多家制造商提供技术使用授权,涉及了世界上所有电信设备和消费电子设备的品牌。根据iSuppli的统计数据,高通在2007年度一季度首次一举成为全球最大的无线半导体供应商,并在此后继续保持这一领导地位。其骁龙移动智能处理器是业界领先的全合一、全系列移动处理器,具有高性能、低功耗、逼真的多媒体和全面的连接性。目前公司的产品和业务正在变革医疗、汽车、物联网、智能家居、智慧城市等多个领域。

华为机构

华为成立于1987年,是全球领先的ICT(信息与通信)基础设施和智能终端提供商。华为的主要业务分布在无线、网络、软件、服务器、云计算、人工智能与大数据、安全、智能终端等领域,发布了5G端到端解决方案、智简网络、软件平台、面向行业的云解决方案、EI企业智能平台、新一代FusionServer V5服务器、HUAWEI Mate等系列智能手机、麒麟系列AI芯片等产品。目前华为拥有18万员工,36所联合创新中心,14所研究院/所/室,业务遍及170多个国家和地区。

http://www.huawei.com/cn
区块链技术

区块链是用分布式数据库识别、传播和记载信息的智能化对等网络, 也称为价值互联网。 中本聪在2008年,于《比特币白皮书》中提出“区块链”概念,并在2009年创立了比特币社会网络,开发出第一个区块,即“创世区块”。

比特币技术

比特币是一种用去中心化、全球通用、不需第三方机构或个人,基于区块链作为支付技术的电子加密货币。比特币由中本聪于2009年1月3日,基于无国界的对等网络,用共识主动性开源软件发明创立。比特币也是目前知名度与市场总值最高的加密货币。 任何人皆可参与比特币活动,可以通过称为挖矿的电脑运算来发行。

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

语音处理技术

语音处理(Speech processing),又称语音信号处理、人声处理,其目的是希望做出想要的信号,进一步做语音辨识,应用到手机界面甚至一般生活中,使人与电脑能进行沟通。

百度机构

百度(纳斯达克:BIDU),全球最大的中文搜索引擎、最大的中文网站。1999年底,身在美国硅谷的李彦宏看到了中国互联网及中文搜索引擎服务的巨大发展潜力,抱着技术改变世界的梦想,他毅然辞掉硅谷的高薪工作,携搜索引擎专利技术,于 2000年1月1日在中关村创建了百度公司。 “百度”二字,来自于八百年前南宋词人辛弃疾的一句词:众里寻他千百度。这句话描述了词人对理想的执着追求。 百度拥有数万名研发工程师,这是中国乃至全球最为优秀的技术团队。这支队伍掌握着世界上最为先进的搜索引擎技术,使百度成为中国掌握世界尖端科学核心技术的中国高科技企业,也使中国成为美国、俄罗斯、和韩国之外,全球仅有的4个拥有搜索引擎核心技术的国家之一。

http://home.baidu.com/
5G技术

第五代移动通信系统(5th generation mobile networks),简称5G,是4G系统后的延伸。美国时间2018年6月13日,圣地牙哥3GPP会议订下第一个国际5G标准。由于物理波段的限制,5G 的网络也将会与其他通信技术并用,包含长距离的其他传统电信波段。

推荐文章
暂无评论
暂无评论~