嘉楠董事长张楠赓36氪WISE大会演讲：展望新十年 12

12月10日，嘉楠科技董事长兼CEO张楠赓在36氪WISE 2020大会上演讲时表示，智能化变革关键在于计算架构。当前设备端计算能力和续航能力不足，弱网或无网条件下的任务处理对芯片设计提出新的挑战。计算架构设计既要考虑给算法模型足够的算力支持，也要兼顾较低的功耗，以提升设备对应用场景的适应性。
张楠赓认为，在这个方向上，嘉楠科技研发的AI芯片勘智K210在商用过程中取得不错效果，在智能门禁、智能抄表、AI STEAM教育硬件和智慧城市等领域均有落地。同时，嘉楠科技提出“勘智大智慧Kendryte AI” ，协同上下游伙伴推进勘智系列芯片在边缘AI市场的商用。
文章插图
智能化变革瓶颈在于计算架构
回顾历史上重要的技术变革浪潮，小型机、PC和互联网三次计算平台的变迁都是由集成电路直接推动。其中在PC时代， x86成为统治桌面级系统的架构。到了移动互联网时代，这种垄断的局面才被ARM打破。而在最新一次变革中，随着虚拟化、分布式和机器学习等新计算范式的成熟，率先推动了智能化浪潮。
伴随智能化技术崛起，大数据成为基础生产要素的过程中，产业界面临的技术环境也开始由计算驱动数据向数据驱动计算变迁。其中最典型的例子就是机器学习。区别于传统计算范式，机器学习应用依赖于大量的数据训练。这种变化映射到计算架构上，则是以大量运算单元取代缓存和控制单元。
即便如此，当前处理器的算力仍然无法跟上数据的增长速度。张楠赓认为，数据中心需要减负，不是所有计算任务都需要在大型数据中心进行，而且设备端计算对低时延、低功耗的要求更高。计算跨越数据中心的限制，进入与用户体验、企业服务和生产息息相关的设备端，能更好地满足未来市场对计算资源的需求。
张楠赓表示， AI已经是我们的国家战略，在政府工作报告中提及多次，这其实是很有远见的战略。 20年前是互联网， 10年前是移动互联网，那么10年后、20年后的机遇则是AI深度参与其中的物联网。
随着AI的商用化进程加快，算法生产也将走向标准化和规模化，基于成熟模型的推理计算将占据更多市场份额。 IDC数据就显示，未来将有超过一半的计算发生在边缘侧。到2025年，全球边缘AI芯片组的营收将达到516亿美元，远超云端芯片组。
针对边缘侧的计算架构变革势在必行。
边缘AI芯片与嘉楠科技的实践
张楠赓认为，在其他传统芯片市场中，往往在功耗、性能和成本之间可以进行一些权衡置换，但以区块链、AI为代表的新计算类型并非如此，计算密集型场景对功耗、性能、成本都同时有着非常极限的要求。
虽然智能手机是目前主流的计算平台，但随着可穿戴设备、传感器等数量的爆发，以及传统设备的智能化升级，都在昭示着计算设备的小型化与多元化趋势。事实上，无论是早期的大型机、小型机，还是现在的PC和移动设备，计算设备的小型化对功耗的要求越来越高。
张楠赓表示，在这个方向上，嘉楠科技一直在创新。公开资料显示，嘉楠科技于全球最早量产基于RISC-V架构的商用边缘智能计算芯片勘智K210 。由于采用了轻量级的RISC-V架构，以及片上内存等设计方面的优化，勘智K210的最低功耗可以达到0.3W ，即便搭载外部设备的情况下，其功耗也仅为1W左右。
RISC-V指令集具有开源、精简、模块化设计等一系列优势。对于国内市场来说，全新的RISC-V使得我国得以与其他国家站在同一起跑线上，有望在全新生态构建中树立话语权，另外，其开源的特点有利于我国自主可控技术的实现。
在开源架构的基础上，嘉楠自主研发了神经网络加速器和其他一些关键IP 。采取自研关键IP的方式，能够加强产品的竞争力，建立竞争壁垒。张楠赓认为，产品落地没有捷径，相反是需要长远规划路径的，有自己的技术才有未来。
今年，嘉楠科技还针对加速器KPU自主开发了戴口罩人脸识别模型、活体检测模型等一些列算法，初步形成了软硬一体化的技术堆栈。对于第二代芯片的规划，嘉楠科技也将在下一代AI加速器采用的是可伸缩架构，可以达到更高算力。同时，通用性也进一步增强，原则上使用TensorFlow的模型不需要重新编译或训练。
除了RISC-V之外，勘智K210也获得了一些主流技术社区的支持。今年4月， AI芯片勘智K210获得了Linux内核，以及系统级语言RUST的支持。值得注意的是，嘉楠科技也与国内最大的算法平台百度飞桨建立合作，研发定制边缘侧AI开发板PaddlePi-K210 ，为开发者提供一站式的开发体验。凭借低功耗和较强的编程灵活性，勘智K210也成功获得阿里的关注，是TinyML方向的探索性学习平台。