做AI芯片,“现在是最好的时代,也是最坏的时代”。张楠赓认为现在芯片的热度足以用“夏天”来形容,这家做矿机起家的企业,为何会选择做AI芯片?而且在巨头纷纷发力云端AI的时候,嘉楠科技如何会选择在端侧布局?该怎样做好AI产品?这些问题都在7月26日以“AI唤醒生活智能”为主题的沙龙中得到了一一印证,嘉楠科技董事长兼CEO张楠赓与现场20位关注AI领域的媒体人进行了深入交流。
为什么说现在是做AI芯片最好的时代,也是最坏的时代,张楠赓认为,好的一面是政策扶持,资金的大量涌入,给AI芯片的发展带来了足够宽阔的市场空间;坏的一面则是行业标准缺失,人才缺乏,以及市场和生态的不成熟。
2005年北航计算机毕业的张楠赓,在航天科工事业集团工作了3年,这3年培养了他对技术一丝不苟,对工作认真负责的航天人精神。由于张楠赓不断求新的精神,3年后他选择回校继续深造,然而在学校深造的时候,他接触了比特币这个新奇的东西,他认为,新技术能否改变世界,商业模式能否最后成功,最根本的是能否提高整个社会的生产力。
2012年9月,他决定退学做比特币挖矿机,几个月后,嘉楠科技创立,2013年1月31号嘉楠科技把第一台矿机交到到用户手里,15年区块链概念出现以后,得到了大家广泛重视,他认为改变世界的可能性又变大了一点。
嘉楠科技历史
除了矿机,还能做些什么?2016年,AI开始进入大众视野。彼时嘉楠科技就成为国内前十能够实现量产16nm芯片的公司,并已着手AI芯片的研发。张楠赓表示,“AI芯片在很大程度上冲击了传统计算架构,它对数据流的处理与区块链芯片有很多共同点,这对我们而言是一个非常大的机遇。”
所以嘉楠科技选择做AI芯片主要有两方面的原因,一是张楠赓本人不断探索新事物的特点,“一个行业如果已经有做的不错的公司或者产品了,比如说做CPU,那就不想去做了。而AI芯片直至现在这么多年过去了,还是没有发展的特别好,这种行业才适合创业者去尝试”。另一方面张楠赓认为,AI芯片在很大程度上冲击了传统的计算架构,它对数据流的处理,从技术角度来看,跟矿机芯片有着相当的共同点,这对我们而言是一个非常大的机遇,再加上5G技术的突破能够在未来实现更多碎片化设备的应用。
不得不说,从整个行业环境来看,芯片巨头大都在云端AI芯片角逐。以Nvidia为代表牢牢占据AI芯片榜首,之后则是英特尔、谷歌、高通等一众巨头。但是云端AI芯片,无论从技术门槛还是对企业生态的要求都更高。巨头林立,留给创业公司的市场空间相对狭窄。
“在端侧,AI芯片市场还处于完全的蓝海状态,需要有人在汪洋大海一样的场景中捕捉机会”,张楠赓在会上提及,“AI在端侧市场极其不成熟,例如智能门锁行业,初期的时候连国家标准都没有;再比如智能门铃,最主流的产品甚至还无法识别摄像头前面的物体是不是人”。
随着产品在各个场景的交付使用,张楠赓逐渐意识到传统芯片的软肋。传统芯片行业普遍采用单一售卖模式,产品缺乏用户黏性。对此他表示,嘉楠科技不做单一芯片售卖,而是遵循互联网的商业模式,快速迭代产品,根据客户需求提供可持续性的服务。
“国内通用AI芯片领域,我非常看好华为和阿里,他们既有场景,也有技术。但是在端侧AI,我认为我们在区块链领域的优势会得到体现。”张楠赓说。
AI的突破为芯片产业带来了新的场景。例如新零售领域,嘉楠科技的思路是不以回传原始数据作为卖点。张楠赓解释,“比如做新零售时需要架一个摄像头在门店,那个摄像头后面就是我们的芯片了,它返回视频的原始数据,而是结构化的数据,这是特别大的不同。”
目前,嘉楠科技正以芯片为基础,将硬件模组,算法,ODM和OEM产品交付给客户。同时,在中间层,嘉楠科技着力数据中台建设,对边缘侧的数据统一加工为结构化数据,为上层业务系统提供通用化的平台。
张楠赓认为,过去在芯片工艺和电路设计上,大家一般吃工艺的宏利,而不注重底层的优化。嘉楠科技决定把这件事情捡起来,重新做优化。在算法设计趋向一致的情况下,芯片之争的焦点主要在于算力。当端侧的应用场景逐渐固定,算法和体系结构会达到相对稳定的阶段,最后比的就是更低的能耗和更高的计算效率,这正是嘉楠科技的优势所在。
以边缘侧AI为起点,嘉楠科技在2018年发布了一代芯片勘智K210,可在仅0.3W的功耗下提供1TOPS的算力支撑。这款芯片,绝不是所谓只能看到宣传资料,但是却没有渠道采购的“PPT芯片”,客户直接就可以在嘉楠的网店或百度AI市场的渠道中购买到。
勘智K210芯片及开发板
张楠赓说到:“任何对我们的芯片感兴趣,无论是正面的意见,还是反面的疑问,你都可以通过直接买来的芯片去测试我们的性能”。这其实是一种对产品技术能力的自信,该芯片采用完全自研的神经网络处理器KPU。张楠赓明确表示,“自主研发能为我们带来长期优势。”张楠赓现场还总结了该芯片的三个特点。在架构上,芯片采用RISC-V作为指令集架构,相比Arm具备更好的可定制性。在功能上,该芯片视听兼具,可完成进行人脸检测和人脸识别,以及实时获取被检测目标的种类。芯片自带APU语音处理单元,无需占用CPU就能够实现声源定向、语音唤醒和识别等功能。
在他看来,芯片的设计中,技术与场景缺一不可。他表示,“传统芯片和用户的应用关系不大,但是AI芯片需要从场景出发做芯片的反向设计。”张楠赓以实际研发过程中的一个例子做阐述,“比如人脸识别现在1:1和1:N都没有太大问题,1:1就是开锁,1:N就是门禁,但是现在N:N比较差,N:N就是对大场景对所有人进行搜索,比如每秒扫描多少张。这就需要我们考虑达到怎样的性能才能满足客户需求。”
简言之,AI芯片的场景并非“人脸识别”式的泛泛而谈和标签化理解,而是根据具体业务需求来设计芯片,使其做到性能上的最优适配。目前,作为一款单芯片解决方案,勘智K210已经实现在智能门锁、无感门禁、智能电表、智慧酒店和病虫害防治等场景下的交付使用。其中,由嘉楠科技研发的无感门禁系统已部署至软通智慧总部大楼,实现日均每监控点2000次的识别数量。
勘智K210病虫害防治案例
从边缘侧AI芯片入手,到数据中台,再到上层与云厂商、伙伴共建生态。嘉楠科技的发展路径已然清晰。“芯片能够把智能计算能力带到每个人的身边,它其实是通过给大家提供计算的方法去提升效率,改善用户的体验。”张楠赓这样界定嘉楠科技,“我们是一个用AI改善人类生活的公司,这是我们的根本愿景。”