Robinly

GTI首席科学家杨林:AI产业化需要标准

Robin.ly 是一个全新的视频内容平台,旨在为广大工程师和研究人员提高对商业,创业,投资,领导力的理解。第四期是Robin.ly创始人Alex Ren 采访CNN(细胞式类神经网络)的发明者、硅谷AI芯片初创公司Gyrfalcon Technology(GTI)联合创始人杨林教授 。以下为采访实录摘要,原始视频请访问www.robin.ly

Alex: 大家好,我是Alex Ren,是BoomingStar Ventures的管理合伙人,也是Robin.ly的创始人。今天是我们的Robin.ly第四讲,主题是关于AI芯片的创业和技术发展。今天我们的嘉宾是GTI的联合创始人杨林教授。杨教授有丰富的业内经历,他曾经就读于复旦,清华和UC Berkeley,获得了UC Berkeley的博士学位。同时也是北邮,清华和复旦的教授。他曾经在VLSI (Technology, Inc.),Redwood Design,Cadence 做高级设计经理。1999年创立了一家半导体公司,Legend Silicon(凌讯科技),专注数字电视方面的芯片。 2017年,杨教授和OmniVision 的founding member董琪一起创立了一家公司GTI,Gyrfalcon Technology,专门从事AI芯片这方面的工作。杨教授在学术上成果斐然,1988年就已经发表了一篇名为Cellular Neural Networks Theory and Application的文章,获得了IEEE的电路与系统最佳论文奖。自此之后,CNN,也就是Cellular Neural Networks就成为了一个热点的研究领域。感觉GTI创业以来发展得很快,想问问当初创业的初衷是什么?

杨林:创立这个公司的初衷,就是感觉到现在,PC,电脑都已经放到手机上了,通讯都已经做到第五代通讯了,而且目标就是IoT,Internet of Things物联网。那么下一步的发展方向必然是人工智能。为什么叫Internet of Things呢?原来就叫internet,相对来讲就应该叫Internet of People,对不对?那people只要连起来,大家就可以交流。因为有这个语言文化,互相都懂。那你说,thing,这个东西连在一起,那很难交流。所以这个时候就需要赋予物体一定的感觉的能力,和判断的能力。这也就是所谓的人工智能要解决的问题。

Alex: 所以您实际上是为了解决IoT的deployment问题?

杨林:对。主要是为了解决IoT下面的连接问题。IoT已经发展了很多年,但主要就是为了连接。连接由于5G开发了以后,现在正在实施。现在急需产业化,这就不再是科研项目了。那么在这个时候,人工智能就起到了非常关键的作用。这是第一。第二,人工智能,或者叫神经网络,前一段时间,虽然产业化没有发展,但是在研发方面还是有人持续在做。研发方面在做也是受益于现在的计算机能力,那么就开发了这种深度学习的概念。深度学习,它的技术方面的定义是叫多层卷积神经网络机器学习,所以大概有这么三个意思。第一是卷积神经网络,第二是多层,第三个是用机器学习,不用人,不用编程。那么实际它本身的电路结构和算法很早以前就有了,至于为什么能够现在流行起来,一是现在有这个需求,其次就是现在的算力,就是计算机仿真的能力很强。这个我下面可能在谈到其他问题的时候会再展开讲。

 Alex: 您的公司创立一年,出片的芯片现在做到了什么样的性能?

GTI 第一款AISC芯片 ‘The LightSpur 2801S’

杨林:我们这个芯片当时瞄准的是低成本,低功耗,高性能。首先高性能是必须的。因为要赋予智能,让它能够自己去学习的话,就需要算力,所以必须得是高性能才能保障算力。那么在高性能的情况下,怎么能够降低成本,降低功耗,这个是我们主要的一个工作。那么得益于原来我做的这个analog电路,它就是个device。它从架构来讲,和计算机是不一样的。所以从这里边进行借鉴,我们就达到了预期的目标。

Alex:这是个ASIC是吧?

杨林:只要是application  specific就叫ASIC,我们也是其中一个。我会叫它卷积神经网络加速器,它不是一个SoC (System on a Chip),我们也觉得这个是当前急需的。因为现在市场还没有起来,如果将来市场起来了,根据真正的应用,我们会做不同的电路。但是现在呢,还是属于一个平台,就是我们叫做卷积神经网络加速器。 

Alex: 那主要性能是手机上吗,在什么终端上面?

杨林教授介绍GTI产品 

杨林:手机只是一个应用。提到手机,我就顺便把我们最近做的这个东西拿出来看看。这是我们给电脑,laptop做的。它是个USB dango,我们这个芯片就在这里,它就是个加速器。现在的PC里边基本什么都有了,即使你没有GPU,反正只要有CPU,做训练都没问题,但是它速度慢。所以加了这个以后你就加速了。另外一个,就是用我们的芯片做的一个WiFi的小盒子。这个就跟手机一样,跟手机配合。像现在华为和苹果都做了SoC,就是single chip solution。但由于卷积神经网络的运算量是需要很大的,那么我们的就是专门做了这么一个,配合现有的手机,就直接把这个手机升级为AI手机了。 

展开一下就是,为什么我们做这件事,因为我看到了这个机遇。我就是做电路的,这是个device。现在 叫CNN,Convolutional Neural Network,我们原来叫Cellular Neural Network。Cellular Neural Network是一个电路。它其中有convolution作为一个算子,就像里边有乘法。但是它那里边就是convolution,所以我们在那个里边就有这个convolution,不光有convolution,我们还有feedback,就所谓现在的RNN。我们现在的重点主要是做CNN,因为这个feedback还有一些其他的问题。所以现在RNN只用在一维的信号处理方面,还没有真正用到图像。但是将来我认为是会把应用放到图像层面。

人工智能本身,现在每个人都有自己的定义。有的人觉得这个东西很可怕,将来就是超人。这个和我30年前描述计算机时候一样,那时候普遍认为计算机要毁灭人类。但实际上,经过这么多年的发展,我们觉得计算机让人类社会受益良多。30年前在我上学的时候,那真就是做计算机的人用计算机,用计算机的人做计算机,其他人对计算机没什么接触,就像现在人工智能高发展的时期一样。但是现在不都是人手一份手机,人工智能的普及速度应该会更快。

Alex: 我们现在讲民主化。人工智能民主化。就是您说的,普及化实际上最终是ASIC。ASIC本身需要考虑经济效益,考虑成本。那现在您现在在GTI做的工作和您以前发明的CNN有什么关系吗?

杨林:这个就牵扯到刚才我说的,电路,神经网络和计算机的区分是什么。大家现在有个常用词叫异构。异构的意思就是我和计算机不一样,但是怎么个不一样法,第一,神经网络因为是一个电路,尤其是当时我们做的,它是记忆元器件。记忆的和运算的是一体的。那么现在标准的计算机的架构,就是处理器,存储器,中间还有个I/O,叫接口,有这三个;我们现在做的这个东西是都放在一起的。正是因为这样,我们才降低了功耗。这样就可以把里边的处理器,包括你的存储器,都用最新的,比如说是,7纳米,10纳米的来实现。但是你中间连接接口的那个pad,就是我们叫芯片的管脚,不变,而那个东西就是大量的传输高速,功耗都在那儿。所以这是一个。

另外就是人也是因素之一,人的智能实际上是记忆和处理在一起的。不是说你想干什么,到哪儿去,充一下电,然后再去存取——它是一体的,这个也是不同。但是作为computer simulation来讲,原来架构就是这样,你何苦去改呢。所以我们认为将来的发展,实际上就是这种专用的结构。另外一个,因为计算机对芯片也有要求,大家现在也在比,说是看谁做得最好。我看现在好多startup在做的芯片都在比。那么还是计算机的概念。计算机有几个特点,第一,一定要有指令集,就是说我这个东西是专用指令集,指令集简化,没必要,因为这个东西不需要指令。因为顾名思义,深度学习机器学习嘛,机器学习就是不用人来编程序,不用人来编程序,还要什么指令集呀,对不对?实际上我们真正用数据来训练里边的参数,训练完了以后,人工智能和人类智能相比的好处就是它可以copy,训练完了可以移植;不像人,我们学完了以后,我们的下一辈还得重学。

Alex: 您讲的这个指令集的变化,非常好。作为一位非常有经验的半导体行业专家,在AI时代到来之后,您觉得对整个半导体产业带来些什么样的变革。我们能不能说芯片行业迎来了第二春?

杨林:这是很大的一个变化,但是我认为这个是时代的发展造成的。刚才你提到这个第二春,对我来讲,这就是三十年河东,三十年河西。我当年在Berkeley读书的时候,Berkeley EE和Computer Science在一起的叫EECS,对不对?当时CS的人都是hardware的。我去年回去,结果发现EE根本没有人学了。你只要做出个AtoD (Analog to Digital),剩下的就是digital的事儿了。所以说hardward design的人一点都没有了,基本连学校都不train了,都没有人去学。所以针对刚才你说的,这就是为什么我说是三十年河东,三十年河西。下面三十年呢,实际上又给hardware的人新的机会,就是我们还要着重去做hardware。原因我刚才也提到了,它不是一个计算机,它是一个device。它不一定去竞争,就像苹果手机似的。苹果今年出了手机,我就换个新的,去年的虽然打电话还可以用,但是大家就都换,为什么呢?因为它是通用的东西,通用的东西大家都去比较,谁的最好,因为可比。那以后的人工智能的应用很广泛,有的东西不需要一年一换。比如说你们家的garage door opener,那个东西你老换它干什么呢,没必要换。包括智能锁等等。

Alex: 您也是长期在中国和美国的半导体行业工作,中国的半导体行业最近也是个热点话题。我们应该怎么做,去把两国的行业差距缩小?

杨林:大的方面刚才我已经说了,本身硬件由于EDA这个tool,由于每个applicaiton是有一定限度的,后来都被general processor给替代,所以这个需求就很少,这是第一。第二呢,我感觉过去的这30年,实际上中国还是处于一个学习和跟踪阶段。尤其做企业的人,我听了好几个比较有名的老板说不要吃第一个螃蟹。那不要吃第一个螃蟹, 你怎么创新呢?但这是适合当时中国国情的,因为你没有那个财力,也没有那个需求,你犯不上去做这些事儿。那么比较稳的就是先把现在这个基本的事情做好。但是现在不一样了,现在中国能做的也都做了,跟别人都已经差不多一样,你要想抄别人的,或者说学习别人的,还没出来呢,那就干脆自己去做这个事儿。 

Alex: 您之前创立了Legend Silicon,现在又创立了GTI,结合您以前的经验,可以怎么把GTI做得更好呢?

杨林:上次创业有几点。第一,就是数字电视进入了产业化阶段,因为数字电视一开始也是科研项目,最早是在日本。那么没有标准化是不可能产业化的。现在AI也就是这个问题——没有标准化,大家都想标新立异,每个人想说我明天能不能再研究出来一个不同的,就是为了不同而去做事儿。那这个就不是产业化了,产业化是说尽量相同。而且也不一定说我做完这个事儿,就永远不再做了,已经全解决完了。通讯行业就告诉你了这个标准——第一代通讯,就是模拟电话;然后有2G,第二代,就是GSM(Global System for Mobile communications),CDMA(Code-Division Multiple Access);3G,然后4G,5G。实际上在做第二代第三代的时候,5G的技术也存在了,研发上也有人讨论。但是大家说没必要了。标准化,它可以给你定义一个,大家都follow同样的东西,而且做现在最急需的东西。现在我认为大家还是在科研的这种状态。

Alex: GTI作为一家初创公司,现在还算是处于一个早期阶段。您认为如何和Intel,Nvidia, Qualcomm这些芯片行业的大公司竞争呢?

杨林:我们为什么有这个信心呢?因为首先我没有抄别人的,这就是我30年前自己搞的。但是因为30年前在Berkeley申请了CNN细胞神经网络专利,而且我们在2012年专利过期以后又继续申请了专利,第一,你首先要说你不是抄别人的,因为有人跟你打官司啊,你得能证明这是我的。第二呢,你还得有一定的特点,才能保护住。所以在GTI,我们现在已经有5个核心基本专利,很快的。申请专利的时候击败了Intel的团队,获得了专利。所以呢,做芯片必须得有专利。没有专利趁早别做。

Alex: 作为一个初创公司,做芯片本身就不容易。面临这么多竞争,即使我们有基础,接下来我们在商业发展上会采取什么样的路径?

杨林:所以我们第一件事就是做一个平台,做一个非常低成本,低功耗,但是还有AI性能的平台。让每一个人都先能玩起来。大家都能玩,人才的问题就解决了。就像现在大家都玩计算机,那你不愁找懂计算机编程的。都玩手机,你不愁找手机app的developer。我们的做法就是这个,产业化。现在的计算机和30年前的计算机完全不一样,现在的手机和以前的大哥大也完全不一样。它不是一个办公用品,它也不是一个business的用品,它就是一个家用(电子设备)。所以我们现在——你看这个东西做的就像让大家玩一样。我也不想拿你去开发什么自动驾驶,智能医疗,不用。你就能用这个识别出来一些很简单的东西,猫,狗等等。

Alex: 所以GTI策略是说,我们做一个普及化的平台,让开发人员更容易掌握这些工具,针对他所关心的一些问题做出些解决方案?

杨林:就是这个意思。我今年四月说过,要把AI玩起来。我们这个东西上面写的叫“plai”,音译好像就是玩嘛(play)。但是它的直接意思就是People Learn AI,就是玩的意思。一旦大家都了解了,都玩起来了,你人才也不会缺了,行行业业都是专家。因为AI并不是要解决一个高大上的事儿,AI是要方方面面的解决很简单的事儿。我们最近也在跟一家做baby monitor的公司合作。小孩儿一哭或者他刚要哭的时候,你马上把当妈的这个声音录在那儿了,起码给他distract一下,就不哭了。这就是很简单的一个事儿,也不需要什么云,可以你自己训练。

杨林老师接受Robin.ly采访 Alex为左 杨教授为右

Alex: 您看到这里有两个以前可能相对来讲隔离比较深的领域,一个是AI领域,一个是芯片领域。现在有很多AI工程师,也有很多芯片工程师。这两个领域随着商业化会越来越merge,您对这两个领域的工程师,对他们的职业发展有什么建议?

杨林:现在是个拐点,拐点变化很快,当前的需要就是产业化的问题。刚才我说了产业化,标准化,让大家都能够用起来。等AI基本上普及以后——就像手机这种,我觉得搞软件的人已经没用了。你要让一个农民说哪个苹果长虫子了,哪个没长虫子。那他只能告诉你,你拿这个东西照个相,然后告诉我,什么是有虫子的,什么是没虫子的。比如说你们家扫地机,现在都是瞎眼的。只是它很尽力去天天给你扫,现在所谓的智能就是没电了知道走回去充个电。但是真正的人工智能扫地机呢,是干净的地方就不扫了,就不擦,脏了再擦。有根头发捡起来,有了可乐渍喷点东西,这才是智能。基本上将来大家训练AI,就需要各种级别的导师,而且越低级别的老师需求越多。就像人的学习需要时间,所以才有一个小学毕业到教授,越学历高的人学的时间越长。学的时间越长,就是成本越高,但是大部分的人,对我们真正需要的来说并不需要那么高级别。

Alex: 就好像我们以前教计算机去做事儿,现在转变成去教AI去做事儿。

杨林:对。教计算机做事儿呢,你得自己学本领。

Alex: 你要会它的语言,对吧?

杨林:对。机器学习是你只要整理数据就行。中国,美国,欧洲的大学都是100-400年的历史,是由于工业革命才诞生。实际上大学就是为了让人去操纵机器,需要一些专业知识,以后不是,以后学校就是培养老师,把机器变成机器人,不是把人变成机器了。教育是要很大的改变的,教育一改变了,人就可以学别的。

Alex: 这个非常有道理啊!那您说现在做硬件的工程师,他们应该做什么呢?

杨林:最近这几年——将来我说的那个时候就没有软件硬件这个概念了,我觉得硬件工程师做这个系统,不是做一样的,不只是CPU,GPU,应该会有很多startup。这些startup不是在竞争。就像开饭馆似的,每个人有自己的风味,每个人都有自己的特点,只要你自己能够想一个你做的东西有需求,就有business。这是做硬件的。那做软件的人呢,因为有硬件配套么,那就是生态系统,可能是要做这个。

Alex: 您觉得未来几年比如3到5年,您自己的目标是什么。还有就是您觉得GTI未来3到5年的发展会是什么样子?

杨林:我们最近的这两三年,就是要做一个普及的平台。我们认为是个平台效应,是horizontal的,你放在PC上可以自己去开发自己的应用。可能三五年以后,行业应用的人越来越清楚自己要干什么了,因为他先是拿这个平台。虽然物美价廉,但是不够专用,那进一步优化就是要做ASIC,做专用电路。然后我们再开始做vertical的。针对某一个,比如说安防,那以后安防标准化了,大家都做一样的了。再扩展到,方方面面,包括汽车,包括智能医疗,比如家里边有一个personal doctor,早上起来,看你一照镜子发现今天没睡醒,提醒你一下。如果类似产品有量,我们的hardware engineer,或者是做芯片的,就会根据这个量进行开发。

我的个人目标现在实际上在填补空白。因为现在没有hardware design engineer了,所以我干脆先启动一下。然后在这个时候由于我们的公司增长也很快,以后就要招很多人嘛,培养一些新的人,把这些事儿慢慢做起来以后呢,我也就退休了。

Alex: 所以您是还在提携后辈,提携很多新的工程师。今天真是受益匪浅,杨老师讲了很多他对于整个30年来,包括从上一次的人工智能浪潮开始,通讯,半导体,计算机,以及现在人工智能各个方面的洞见。通过以前计算机通讯方面的发展,看到现在AI普及化所面临的一些机遇和挑战。杨老师创立的GTI也是为了抓住这个基于而来。同时,杨老师也希望利用积累的经验,用新的架构,新的方法去为AI普及化做出努力。再次感谢杨老师的分享,我个人受益良多。今天就是我们Robin.ly的第四期节目,谢谢大家。

Robinly
Robinly

Robinly团队坐标硅谷,从创业、领导力和人工智能三个角度去剖析成功创业者、高科技领导者、人工智能科学家和知名投资人的职业养成过程和他们对于这些领域的观点,我们力求追本溯源,为广大工程师、研究者提供一手的职业学习内容。

http://www.robin.ly
专栏二维码
产业自动驾驶信号处理深度学习机器学习神经网络
2
相关数据
英特尔机构

英特尔是计算创新领域的全球领先厂商,致力于拓展科技疆界,让最精彩体验成为可能。英特尔创始于1968年,已拥有近半个世纪产品创新和引领市场的经验。英特尔1971年推出了世界上第一个微处理器,后来又促进了计算机和互联网的革命,改变了整个世界的进程。如今,英特尔正转型成为一家数据公司,制定了清晰的数据战略,凭借云和数据中心、物联网、存储、FPGA以及5G构成的增长良性循环,提供独到价值,驱动日益发展的智能互联世界。英特尔专注于技术创新,同时也积极支持中国的自主创新,与产业伙伴携手推动智能互联的发展。基于明确的数据战略和智能互联全栈实力,英特尔瞄准人工智能、无人驾驶、5G、精准医疗、体育等关键领域,与中国深度合作。面向未来,英特尔致力于做中国高价值合作伙伴,在新科技、新经济、新消费三个方面,着力驱动产业协同创新,为实体经济增值,促进消费升级。

https://www.intel.com/content/www/us/en/company-overview/company-overview.html
相关技术
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

自动驾驶技术技术

从 20 世纪 80 年代首次成功演示以来(Dickmanns & Mysliwetz (1992); Dickmanns & Graefe (1988); Thorpe et al. (1988)),自动驾驶汽车领域已经取得了巨大进展。尽管有了这些进展,但在任意复杂环境中实现完全自动驾驶导航仍被认为还需要数十年的发展。原因有两个:首先,在复杂的动态环境中运行的自动驾驶系统需要人工智能归纳不可预测的情境,从而进行实时推论。第二,信息性决策需要准确的感知,目前大部分已有的计算机视觉系统有一定的错误率,这是自动驾驶导航所无法接受的。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

信号处理技术

信号处理涉及到信号的分析、合成和修改。信号被宽泛地定义为传递“关于某种现象的行为或属性的信息(如声音、图像和生物测量)”的函数。例如,信号处理技术用于提高信号传输的保真度、存储效率和主观质量,并在测量信号中强调或检测感兴趣的组件。我们熟悉的语音、图像都可以看做是一种信号形式。因此,对于语音、图像的增强、降噪、识别等等操作本质上都是信号处理。

暂无评论
暂无评论~