邃思|256TOPS算力+超大存储带宽，燧原第二代云端AI推理卡来了，性能比肩7nm GPU 卢布|谷歌公司|俄罗斯|莫斯科

文章插图
智东西（公众号：zhidxcom）
作者 | 心缘
编辑 | 漠影
智东西12月7日报道，今日，AI芯片独角兽燧原科技正式推出其第二代云端AI推理加速卡云燧i20。
这距离燧原科技发布其第二代云端AI训练加速卡“云燧T20”，仅仅相隔5个月。云燧i20的发布，标志着燧原科技在云端AI算力加速领域，从训练到推理的完整产品线已全面迭代到第二代。

文章插图
燧原科技CEO赵立东和COO张亚林发布第二代云端AI推理产品
据悉，云燧i20是业内首个拥有超大存储带宽的AI推理加速卡，其单精度张量TF32峰值算力达128TFLOPS，整型INT8峰值算力达256TOPS。
基于燧原科技的自主创新芯片架构，采用12nm工艺制造的新一代“邃思”AI推理芯片实现了媲美业内7nm GPU的计算能力，并可在相同性能表现下提供更高性价比。

文章插图
很难想象，仅用三年多的时间，燧原科技便凭借极强的团队执行力、高效的研发落地能力，连续迭代两代、三款云端AI芯片，在数十家云端AI芯片玩家中脱颖而出。
如今，搭载第一代邃思芯片的集群规模落地，其第一代训练及推理产品已产生过亿订单及收入，云燧i20加速卡将于明年第二季度量产。燧原科技累计融资超30亿元，其团队也完成新的组织调整，团队规模从年初的约400人增至逾650人。
它是怎样做到的？近日，智东西对话燧原科技创始人兼COO张亚林，以期更深层次地了解这个中国AI芯片赛道中尤为独特的样本。

文章插图
【 邃思|256TOPS算力+超大存储带宽，燧原第二代云端AI推理卡来了，性能比肩7nm GPU】燧原科技全新一代“邃思”云端AI推理芯片
一、对标业内旗舰GPU，训练&推理产品全面进入2.0阶段新一代“邃思”云端AI推理芯片和云燧2.0加速卡，让燧原科技在2.0阶段完成了闭环。
“性能赶超业内旗舰GPU的云燧i20正是我们的关键成果之一。”燧原科技CEO赵立东说，“当前，我国芯片产业正处于激烈的成长与蜕变时代。燧原科技以「做大芯片，拼硬科技」时代使命，基于原始创新的软硬件架构，正在不断加速技术创新与产品迭代。”

文章插图
从2018年3月成立至今，燧原科技整个团队像齿轮般严密地咬合转动，精准执行了产品路线图。
在燧原1.0阶段，燧原成立18个月即推出第一代云端训练产品，实现从0到1的破冰。如今其第一代训练及推理产品已规模化落地，它从客户处收集到的需求反馈，正被输入到第二代产品中。
2020年，“从1到N”的燧原2.0阶段顺利推进，陆续完成新融资、集群商用落地、第一代推理产品量产发布等重要节点。同年4月，燧原正式启动新一代“邃思”AI推理芯片及云燧i20的研发。

文章插图
自立项起，燧原便定下目标，第二代推理产品性能要达到国际友商前一代旗舰的2.5倍以上，大部分打平甚至在某些方面超越友商的新旗舰产品。
为了达成一年流片的目标，燧原将从前期架构、设计、集成、验证、模拟、软件适配到量产等全流程分解成多个收敛阶段，通过全体工程团队高度协同、精准合作，确保每一步按期作业。
应对来自晶圆、基板、材料及测试设备等各层面的全球供应链挑战，燧原密集地与全球供应商进行前期沟通，努力解决意料之外的供应链问题，最终如期完成计划。

文章插图
燧原科技第二代云端AI推理卡云燧i20
据张亚林分享，在多项基准测试中，云燧i20加速卡的模型性能、能效比均处于国内领先水平。
浪潮信息与燧原科技通过元脑生态联合创新，在AI整机系统、AI算力优化、场景方案落地等多方面深入合作。浪潮信息副总裁刘军评价道：“此次云燧i20的发布，标志着燧原从训练到推理全面进入2.0时代，这也是国产AI算力发展的里程碑。”
二、业内首个超大带宽推理加速卡，打出软硬协同系统组合拳与第一代推理产品云燧i10相同，云燧i20主要面向泛互联网、传统行业和新基建等赛道。
该AI推理加速卡支持视觉检测跟踪分类、语音识别与合成、自然语言处理等主流AI应用场景，并进一步提升了模型覆盖和泛化支持能力。