高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

年度订阅用户可加入科技英语学习社区,每周科技英语直播讲堂,详情查看“阅读原文”

现阶段,高通正面临着不少国家的罚款及产业竞争的双重压力,但不可否认的是,这家半导体领域的巨头依旧有着强大的前瞻眼光。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

早在神经网络处理单元(NPU)这个名词变得非常热门之前,高通内部在 2013 年、2014 年就提出了让人工智能走进终端的概念,更发展出产品,可惜后来因为找不到合适的应用场景,资源缩减,相关技术研发被束之高阁,当时在高通负责相关技术的核心人员也纷纷出走。

当时,高通神经网络项目研发负责人 Naveen Rao 在内部力推打造一个 AI 平台,但并未被上层采纳,他因此离开创业,2 年后公司被英特尔收购,市场传闻收购价接近 4 亿美元,这家公司就是 Nervana Systems

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

不过,除了这一群印度团队之外,还有另一群人也离开,成立专攻终端 AI 软硬件模块及芯片研发的公司,接连拿下腾讯、格力、搜狗、华硕等大客户,不久前获得阿里初创企业基金及中华开发资本领投,高通、台湾奇景光电跟投的超过千万美元 A 轮融资,这家取名为耐能(Kneron)的公司你可能还未注意到,但不久后它很可能将成为另一只 AI 芯片独角兽。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

论知名度,耐能不如寒武纪、深鉴、地平线,论募资金额,更是比不上同行的庞大数字光环。不过,在商业落地上,一家成立仅两年的公司,软硬件技术已经被大企业采用并实际量产,今年上半年已经小有获利,耐能可以说是交出了不俗的成绩单。

终端 AI 芯片将是兵家必争

在整个 AI 芯片产业的战略频谱中,大致可以分为三大类,一是云端、二是 PC 或汽车等应用、第三类就是手机、IoT 等装置。第一类云端主战场的企业以 NVIDIA、Google、Intel 为主,第二类主要的玩家包含 NVIDIA、Intel、AMD 等,第三类终端产品则有高通、联发科以及许多的初创公司。

在云端领域,可以使用运算能力强的 GPU 系统、服务器、高性能计算机群(HPC)作为后盾,终端方案运算能力整体来说还是弱于云端。因此,越是终端的产品随着系统计算能力的减弱,可以运行的深度学习网络就越小。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

图丨微软亚洲研究院院长洪小文

日前,在台北举办的 2017 Microsoft AI DAY 上,微软亚洲研究院院长洪小文发表了演讲,当媒体询问他作为软件从业者是如何看待硬件在 AI 领域的变化趋势?洪小文分析,在芯片领域,目前看来GPU是一支独秀,但功耗大,现在很火的是汽车、无人机、手机以及 IoT 产品依旧面临着能耗过高的难题。“由于终端的种类很多,这个战线会布的很广,会有很多公司投入,终端芯片将是兵家必争之地,而竞争的关键就是能耗。”

也就是说,如果能开发出兼具低功耗及高效能的终端AI硬件,就能在市场成功卡位。事实上,许多硬件公司想的都是这件事,也都投入相关技术开发,耐能就是其中之一,他们主攻终端产品领域,采取推出软硬一体的模块、NPU IP 授权的商业模式。

让 ARM A7 A9 可跑 ResNet、SSD

“我们硬件特色就是低功耗、体积小,搭配自行开发的软件技术——重组式人工智能神经网络(Reconfigurable Artificial Neural Network)因此可以做到在终端上跑 ResNet、SSD(Single Shot MultiBox Detector)深度学习网络”,耐能创始人刘峻诚说。

在终端跑 SSD 深度学习模型,乍听之下可能没什么感觉,不过目前在深度学习领域有几个被广泛使用的模型架构,像是 AlexNet 有 5 或 8 个网络层,先前高通、联发科曾展示过将 AlexNet 整合进手机中。另外,ResNet 有 18 层、50 层、101 层、152 层等,而 SSD VGG-300、VGG-512 则是庞大的模型,目前主要应用在安防领域,例如计算机可以用一句话描绘出一个场景,并在空间判断出各个物体的位置、距离等。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

图丨耐能硬件强项在低功耗,让终端也能执行 AI

然而,耐能所开发的 NPU 使用 ARM Cortex-A7、A9 处理器,却能跑得动 ResNet 和 SSD,这就是其技术独到之处

也就是说,可通过成本更低、功耗更少的方案实现复杂模型的运行,不论是对企业或是智能终端的推进都是好事一桩。另外,先前智能手机芯片公司将 NPU 放进手机,功耗大约是 1~2 瓦,只要一执行 NPU,很快就没电,而耐能设计的芯片模组却可以达到 100 mW(毫瓦),近期甚至开发出一个只有 10 毫瓦的产品,只要利用太阳能供电就可以运作两年,就很适用于 IoT 装置。

为什么可以做到功耗低却又有高效能?重点之一就是他们开发的 Reconfigurable Artificial Neural Network。他解释,一般跑神经网络就是一层一层跑,但如果你想一下人的大脑,语言、嗅觉、听觉都有专门负责的区域,所以一个指令进来并不会运用到整个大脑。

基于这样的概念,耐能设计出一个重组式的工智能神经网络,不同的任务进来,该神经网络就会自动调整,减少运算的复杂度进而达到功耗降低、又有效率。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

图丨耐能自行开发的重组式人工智能神经网络(Reconfigurable Artificial Neural Network)。

三级火箭,逐步推进引擎

过去,人工智能多运用在数据中心,例如 Google 通过 AI 提供搜索优化、垃圾邮件处理、图像识别等服务。不过,近一、二年来有一股产业声音,认为可将一部分的人工智能从云端移转到终端装置上,进行即时识别与判断分析,不用等到把所有数据经由网络传送至云端后才能处理,除可满足快速、安全的需求,还可减少网络、云端的负载量与成本。

目前看来,这种合作模式是较好的 AI 生态,有一部分要在终端做,有一些要在云端做,因为不同问题有每一种的技术可以解决的独到之处,不可能彼此完全取代。

刘峻诚对 DT 君表示,人工智能的生态非常新,要评价人工智能方法的好坏有三个要素:训练数据、算法、计算能力。每个要素都具备就会有很高的竞争力。在人工智能的大频谱里,每家公司切入的角度不同。例如,在算法上,Google 的 TensorFlow 可谓当今主流,运算力则是由 NVIDIA 领风骚,而运算数据则像 BAT,他们拿训练数据使用现有或是自己开发的平台,做行业应用。

“我认为,未来的人工智能很可能会像 Wintel(Windows + Intel)一样,最终会由 Google + NVIDIA 两家公司分别霸占软件和硬件。不过,这里分析的是海外市场,中国市场较特殊,玩法完全不同”,他说。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

所以说,初创公司该如何在巨人林立的世界找到生存的空间,利基(niche)就变得很重要

基于这样的推论,刘峻诚与创业伙伴就思考在 Wintel 时代,有哪些公司是活下来的?有些公司采取直接 PK 的策略并生存下来,例如 AMD,或是以 Andorid 掀起浪潮的 Google,此外,还有一家公司不仅活下来还变得很强,那就是苹果,其软体为硬件而开发,硬件又为软体而生,因此他们选择一条现实的路线,效法苹果的策略,通过软硬一体达到效能优化及使用经验的顺畅。

目前,耐能有三种业务模式,最初他们通过提供软件打进腾讯生态系统;第二种就是之后开始与大型企业包括 BAT 以及系统厂如格力合作,由伙伴提供训练数据或行业数据,将其与自己开发的算法整合,进而推出一个硬件模组;第三种模式从今年第三季开始提供芯片 IP 授权,类似 ARM 的商业模式,目前芯片 IP 业务已经接获实际的订单。也就是三级火箭理论先用第一个引擎把公司推进到下个阶段。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

真正的 AI 生态是:AI+云+IoT,IoT 包含手机、智能家居,”他说。但初创公司战线不能拉太广,因此耐能选定主攻手机、安防、IoT 三大市场。新这一轮的投资者包括阿里、高通,后续也将会有实际的商业合作。

一路贵人帮助,终于受到瞩目

一家新公司怎么能跟大公司接触,甚至还获得青睐,刘峻诚回答四个字:都是运气。

刚创立时 AI 不像今日这般火爆,当时红的是 AR、VR,跟人谈融资时,还被问说要不要尝试把这项技术用来做 AR、VR。在 2015 年底 Google 把 TensorFlow 开源之前,拥有人工智能开源代码或平台的公司很少,当时主要的平台就是加州大学伯克利分校研究团队所开发的 caffe,“但因为源自于学界,开发者要有一定的 Domain Knowhow 才清楚如何使用”,不过当时腾讯相当明确要发展 AI,内部专门寻找前沿技术的单位就到全球四处去找人才、挑伙伴,刘峻诚在朋友的引荐下就与腾讯接上了线。

去年,腾讯拍了一个真人秀《我是创始人》,类似美国版的《The Apprentice》,这个节目除了初创企业参加之外,还有重量级人物担任导师的角色,包括格力电器董事长董明珠、Star VC 创始人任泉、搜狗 CEO 王小川等也一起参与,节目内容经常会安排导师和初创企业、或是初创企业彼此组队,每一集的任务就是替一家企业解决他们遇到的问题。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

经过两三个月与导师们相处、合力解决问题后,刘峻诚和这些大人物们建立了情谊,在节目里他因为憨厚、质朴的气质被取了一个“功夫熊猫”的外号。没想到,就是因为这份内敛、诚恳的态度,获得了不少导师们的青睐,进而展开业务合作。“我就觉得你这人特别可靠,”董明珠跟他说了这句话之后,随即启动格力与耐能的智能家居合作。

联手搜狗建立 AI 生态

还有一次,王小川和刘峻诚在北加州某个顶楼碰面,两人从如果外星人攻打地球到比特币,天南地北聊了 3、4 个小时。

不仅中国企业家力挺他,台湾的科技主管部门负责人陈良基的专长就是 AI 视觉影像及集成电路设计,他认为,“未来广大终端产品所需的 AI 应具备低耗能及低电压芯片设计”,刚好与耐能研发的重点相符,为了提拔初创公司发展,他更亲自打电话给联发科董事长蔡明介、华硕创始人徐世昌推荐耐能。

这一路走来除了贵人提携,努力也是一个原因,刘峻诚感恩的说:“他们就像我的老大姐、老大哥,如果没有他们,很难走到现在这一步。正因为你肩负了很多人的信任,不能辜负,我经营公司不是很有经验,但我很尽力,如果努力指数是 100,我会付出 130。”

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

图丨耐能创办人刘峻诚(左)、耐能软件工程总监郝康立(右)。(图片来源:DeepTech 深科技)

预计数周之后,搜狗将发布与耐能合作搭建的 AI 生态的细节。正由于 AI 涉及的技术、应用相当广泛,因此许多大企业都急欲建立起生态圈,搜狗的云端、语音库、文字库具有深厚基础,而耐能的强项则是在影像跟硬件,因此耐能将提供影音模块、终端 AI 硬件,通过 SDK 连上搜狗的云端 AI,再把这一个串起的服务架构提供给终端硬件伙伴,协助他们快速推出具有 AI 功能的产品。

坚守不浮夸路线,多年量产经验 PK 对手

从加州的圣地亚哥(San Diego)开始到美国、台湾、珠海都设有据点,现在团队大概近 60 人。成立于圣地亚哥,原因不难猜到,就是大部分成员都从高通出来。数年前高通曾提出要在终端引入人工智能,刘峻诚就是在那个团队。

除了高通,还有来自三星、IBM 的好手,像是耐能软件工程总监郝康立过去就任职于素有三星特种部队之称的三星研发中心,其他的高手如史弋宇,是北京清华电子工程系第一名毕业,待过 IBM 华森研究中心(Thomas J. Watson Research Center),另一位同样是北京清华高才生的谢毕克,则出身自 Google 跟 Marvell。

尽管近年创业火热,但要放下高薪的大企业工作,始终不是件容易的事,“有些人是一种技术信仰,深信自己的技术一定会成功,所以创业,但我没有那么厉害,当时就是感觉会有技术大突破,但终端 AI 会不会变得像现在这样热门,我们自己都不确定,”他说得很诚实。

而他口中当时感觉会有技术大突破,指的就是在高通时参与的终端 AI 芯片开发,当时高通将 Zeroth 人工智能平台放进骁龙 820,并尝试寻找终端 AI 的市场应用,第一个应用是用来做无线通讯的交换(Switching),例如搜索邻近基站、WiFi 的最佳解就是使用深度学习,但后来始终没有找到更好的应用,高通就减少推动深度学习终端芯片,而选择走传统计算机视觉(CV)的方法。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

“高通有很多很牛的技术,对前沿科技也看得很准,很强的工程师性格,会追求工程极致”,但很可惜,终端人工智能的爆发还是得归功于苹果的 iPhone X,找到了 3D 人脸识别的应用,突然间,市场都觉得终端要向 AI 升级,产业更是形成一种终端+AI 是产品“标准配备”的气氛,而 NPU 也跟着爆发了

融资多少不重要,拿出营收才是真本

在中国科技界,寒武纪、深鉴、地平线现在可以说是无人不晓,寒武纪在 8 月完成 1 亿美元融资,成为 AI 芯片独角兽,深鉴在 10 月则宣布获得约 4000 万美元的投资,同月地平线完成近亿美元的融资。相较于友商备受光环围绕,耐能显得十分低调。

刘峻诚脸上挂着一个功夫熊猫般憨憨的笑容说:“我其实看不太懂募资很多或很少有什么优劣势。”市盈率(PE)很高比较像是互联网的打法,快速攻城掠地,把其他竞争对手打死,不过如果看芯片领域或是硬件公司的 PE 值一直都不高,例如同样是走 IP 授权的 ARM,PE 大概都在 19 倍,即使是苹果,历史 PE 大概就是在 15~25 倍。

“AI 这个领域到底是比较适合互联网的融资模式,还是芯片领域的模式?我也不知道,没有谁对谁错。只是,我觉得资本的本质一定还是要回归到有实质营收的支撑。团队一致认为要实打实,把营收做高,对我们公司发展会是比较健康的。我们有实质的收入,即便 PE 值再普通,也很有信心成长为独角兽,”他语气坚定的说。

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美

面对同行的来势汹汹,他只回了一句话:“我们做商用芯片的经验还是比较多,我们是打过仗的。”他进一步解释道,公司的定位是立足全球市场,而非特定市场,同行主要是学术出身,发表的论文都很有独到之处,不过芯片是一个非常重经验的行业。

他这席言论并非轻视对手,更多是对芯片行业现况的贴切描述。简单来说,IC 设计可以分为前端设计(FrontEnd)以及实体设计的后端设计(BackEnd),实体设计完成后会得到光罩图形,进行 Tape Out,也就是将光罩图形送进光罩厂制作光罩,光罩制作完成再送进晶圆厂制作芯片(Chip),最后再经过封装与测试,就成为可以销售的 IC。

但真正做芯片时会面临制程产生的变异情况,有不同的 Corner,像是 TT Corner、SS Corner、FF Corner 等,在不同温度下、条件下,状况就不一样,BackEnd 设计绕线(routing),决定 IC 中的晶体管与晶体管之间的实际连线,线路粗一点、厚一点又不一样。芯片设计就像是老师傅,吃经验的行业,“像是在高通第一线做芯片产品的工程师一定都是 5 年以上的经验”。

据了解,耐能在今年第一、二季已经开始获利,今年营收约数百万美元,对于明年的成长性,他仅低调表示,会有好几倍的成长

目前看来,耐能的营运已经步上轨道,走过了初期文化不同的磨合期,在他眼中,美国的优势就在于创造力,从 0 到 1 的能力是全球最强,大陆执行应用、落地的能力非常惊人,而且心态开放,敢于接受新东西,台湾的特色则是细腻度、追求完美,而耐能的目标就是融合三地的优点,变成一家能站上全球舞台的公司。

-End-

高通离职团队欲打造AI芯片新独角兽,成立2年获阿里巴巴等千万美