coco|用软件解决硬件问题,「CoCoPIE」实现实时本地AI

“上清华的时候,我第一个月就想转到基础科学班。其实我更倾向于偏科学或者实验的方向,比如生物、化学,还很喜欢学历史,我当时还养过许多奇奇怪怪的动物......”回忆接触计算机的起点时,王言治说道。
跟很多大佬与计算机之间的缘分和热爱的故事不同,CoCoPIE的创始人兼CEO王言治觉得电子和计算机在那时对自己而言并不是一项特长或者爱好,更是因为家人的要求。
他填高考志愿的那一年,整个世界都处在互联网泡沫破裂的阴影中,学电子与计算机似乎并不是一条很好的出路。但似乎是缘分的驱使,他和电子与计算机始终相伴,一路从本科到大学教授。2020年,当自己在学校的研究项目形成技术壁垒后,王言治于美国波士顿成立了CoCoPIE,正式将这项技术转为商用。
CoCoPIE是一家人工智能初创公司。公司以在“loT 以及移动端普及实时人工智能”为使命,搭建了 CoCo-Gen 以及 CoCo-Tune 等产品,这些产品能够在不额外增加人工智能专用硬件的情况下,让现有处理器实时地处理人工智能应用。
通俗点讲,如果把人工智能技术看作一款游戏,这款游戏的运算量很大,只有在配置非常高的电脑上才能运行。现在,大家都想玩这款游戏,很多公司就计划做出更高配置的机器,以此来运行该游戏。但CoCoPIE可以用一项技术,该技术通过底层的优化,使得这款游戏对硬件的要求没那么高了,在普通电脑上,甚至是手机上也能运行。
所以CoCoPIE的技术相当于一座桥梁,让这里的游戏和普通电脑、手机更加适配。
近年来,图像识别、自动驾驶、语音识别等各式各样与机器学习相关的研究成果和应用层出不穷,机器学习能够处理的任务愈加复杂,机器学习模型变得越来越庞大,“实时性”对算力产生的需求也远远超乎了人们的想象。
这一系列问题严重阻碍了人工智能产品及应用在日常生活中的普及。
针对该问题,目前主流的看法是,制约人工智能在终端设备上实时使用的最重要因素是硬件。因此,大量科技公司选择将研发重点放在了人工智能专用硬件上,以期通过提高计算速率实现实时的人工智能。
谷歌、微软、亚马逊、华为和苹果等科技巨头以及众多初创公司每年都会花费数以亿计的经费来研发机器学习专用硬件加速器,以期能够早日让人工智能真正走进人们的生活。
而CoCoPIE对此提出了不同的观点。
他们认为,在深度学习模型的本地化运算过程中,终端设备中CPU、GPU、DSP等主流硬件,尚有很大潜力未被开发出来。
CoCoPIE的软件算法架构可以开发出这些“被忽略”的潜力,通过设计构建压缩-编译过程的协同模型,让算法和芯片更加契合,使以往无法运行在一些终端设备上的神经网络,得以在这些终端设备(如智能手机)上运行,实现移动智能的高效实时化。
在这项技术的应用层面上,CoCoPIE将其目标市场定在了智能汽车、手机、IoT等所有移动设备方向上。
在智能汽车方向上,当下,全球的智能汽车行业正面临着“芯片荒”带来的减产危机。
CoCoPIE观察到,汽车厂商与物联网设备厂商缺少的主要是负责设备“智能”部分的、能够进行复杂运算甚至AI运算的芯片。这类芯片往往在十几到四十几纳米制程范围内。
一来,行业“缺芯”的首要原因在于竞价权低,智能汽车厂商很难和上亿台订单量的中端手机、笔记本电脑等主流设备竞争代工厂的产能。与此同时,供给端还在纷纷提价,最高涨幅达20%。
二来,AI专用硬件的芯片研发时间长,一般需要5-10年,且芯片只能用于新设备,无法使数十亿现有设备运行人工智能应用。芯片生产厂商们又各自独立,应用研发团队很难让产品适配所有的AI专用硬件。
市面上的芯片分为两类,一是通用芯片,包括CPU、 GPU、 DSP等,装载于手机、电脑等常用设备;二是专用芯片,包括FPGA、ASIC等,为做特定的运算而设计,比如人工智能专用芯片NPU、DPU等。
当下车企行业的“缺芯”,主要指的就是缺少这类专用芯片。
在芯片短缺的现状下,汽车行业的减产危机在未来一两年只会愈演愈烈。8月19日,日本汽车制造商丰田汽车表示,计划在9月将其全球产量削减40%;福特汽车公司也因芯片相关零件的短缺,宣布暂时关闭生产F-150车型的堪萨斯城工厂。
coco|用软件解决硬件问题,「CoCoPIE」实现实时本地AI】CoCoPIE认为,现阶段,车企们与其竞价和等待专用芯片的供给,不如先缓解燃眉之急——利用好这些既有的通用芯片。