智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能


智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能
文章图片
芯东西(公众号:aichip001)
文|闻孰
成立不到五年 , 肇观电子已经在计算机视觉这条赛道上杀出重围 。 其“拳头产品”N1系列计算机视觉芯片 , 刷新了端侧AI芯片性能记录 , 并达到了几乎“无损”的精度 。 肇观电子同步推出“5分钟部署”的AI开发平台InferStudio? , 直击企业算法落地难的痛点 。
据悉 , N1系列芯片具备领先的每TOPs处理帧数和实时数据流处理能力、高性能的INT8网络支持能力、多级精细功耗控制、高集成度的设计;支持高精度FP16神经网络模型直接无损部署 。
智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能
文章图片
智能化浪潮下 , AI技术走出实验室 , 成为切实帮助千行百业“提质增效”的引擎 , 种种AI技术中 , 计算机视觉无疑是开启智能化未来的一大抓手 。 从安防到IoT设备 , 上至国计下至民生 , AI视觉应用的蓝图已然铺开 。
作为计算机视觉蓝海中的一叶扁舟 , 肇观电子正凭借其AI芯片产品与开发平台InferStudio? , 分别从硬件与软件端打造智能化解决方案 。 我们了解到 , 在某消费级项目中 , 借助InferStudio?平台 , 肇观电子的N1系列芯片成功实现了同时支持11种AI算法的运行 。
令人好奇的是 , 这一成果是怎样实现的?肇观电子以N1系列芯片、InferStudio?平台构建的AI解决方案 , 切实为用户带来了什么?身处一众AI芯片玩家之中 , 肇观电子凭借怎样的产品设计巧思来树立自身优势?
为回答这些疑问 , 芯东西与肇观电子创始人、CEO冯歆鹏进行了深度对话 , 以走近肇观电子计算机视觉芯片、InferStudio?平台背后的黑科技 。
智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能
文章图片
肇观电子创始人、CEO冯歆鹏
一、从硬到软的计算机视觉解决方案
冯歆鹏向芯东西透露 , 目前 , 肇观电子研发团队规模超过200人 , 其中硬件研发人员与软件研发人员的比例大约为1:2.2 。 基于自研的CVKit?NNIP , 肇观电子形成了面向安防、车载、3D视觉等不同细分赛道的AI芯片产品矩阵 , 同时推出AI应用开发平台InferStudio? 。
得益于CVKit?NNIP的架构 , 在运行神经网络算法中 , 肇观电子AI芯片内的CPU并不参与计算(其占用率一直小于1%) , CPU的算力完全保留给客户使用 。
其中 , 肇观电子今年发布的N163、N161、N160三款计算机视觉芯片分别提供2.4TOPS、1.2TOPS、1TOPS的算力 , 以满足工业检测、智慧安防、轻量AIoT市场的不同需求;InferStudio?开发平台则面向缺乏AI相关能力的用户 , 帮助后者快速部署AI视觉算法 。
智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能
文章图片
肇观电子N1系列芯片
冯歆鹏称 , N1系列芯片不同于市场上常见的计算机视觉芯片 , 并非AI协处理器 , 而是一款高度集成的主芯片 。 这意味着N1系列芯片除了具备信号采集功能、信号处理功能等计算机视觉芯片的“老本行”外 , 还能支持更多功能 。
“我们的芯片采取了非常异构的架构 , 除了做好信号采集和信号处理 , 我们还添加了各种外设接口、支持很多类型的内存颗粒等等 , 总体而言N1系列芯片是一款很综合的SoC 。 ”他说 。
【智东西 算法5分钟快速部署!揭秘肇观电子AI芯片背后“黑科技”,刷新端侧AI芯片性能】同时冯歆鹏分享 , 仅打造出高度集成的计算机视觉SoC并不足以满足市场需求 , 要把AI算法延伸到实际应用 , 还需要提升硬件对AI算法支持的效率 , “把客户需求硬化成芯片后卖给他们是一个简单、美好的逻辑 , 但实际完全不是这样 。 实际还需要有对应用的深刻理解和对人工智能经典算法的延伸等等” 。
我们得知 , InferStudio?平台通过支持数学计算通用的规范提升算法部署应用的效率 , 实际应用中 , 可满足用户算法快速迭代的需求 。