智能手表|一家英国明星芯片公司“悄然”入华!叫板英伟达A100


智能手表|一家英国明星芯片公司“悄然”入华!叫板英伟达A100
文章图片
智能手表|一家英国明星芯片公司“悄然”入华!叫板英伟达A100
文章图片
智能手表|一家英国明星芯片公司“悄然”入华!叫板英伟达A100
“计算革命在计算机历史上只发生过三次 , 第一次是 70 年代的 CPU , 第二次是 90 年代的 GPU , 而 Graphcore 就是第三次革命 , 他们的芯片(IPU , 智能处理单元)是这个世界伟大新架构的一种 。 ”说这话的是 ARM 公司创始人、英国半导体之父赫尔曼·豪瑟(Hermann Hauser) 。
他口中的 Graphcore , 是来自英国的 AI 芯片公司 。 这家公司创办于2016年 , 在芯片领域有着多年经验的奈杰尔·图恩(Nigel Toon)担任联合创始人和 CEO , 曾创办过两家处理器公司的西蒙·诺尔斯(Simon Knowles)担任联合创始人和 CTO 。
图 | Graphcore(来源:Graphcore)
这家分公司遍布多个国家和地区的公司 , 于 2019 年进入中国 。 9 月 19 日 , DeepTech 和 Graphcore 高级副总裁兼中国区总经理卢涛 , 就相关问题进行了交流 。
图 | 卢涛(来源:Graphcore)
他表示 , Graphcore 的主要技术是以 IPU 处理器、为 IPU 打造的 Poplar 软件 。 基于 IPU 处理器和 Poplar 软件栈 , Graphcore 的产品最后以用在IPU服务器中的PCIe 卡、IPU 系统产品 IPU-Machine 和 IPU-POD 的形式呈现给用户 。
Graphcore 已经取得了一些阶段性进展 。 截止目前 , IPU 已达到一万多片的发货规模 , 并服务于全球超过 100 家的机构 , 其主要应用在互联网大规模数据中心、高校和科研机构等 。 同时 , IPU 也在支撑医疗、金融、生命科学、汽车、金融和计算领域方面的应用 。
2019 年初 , AI 教父杰夫·欣顿(Geoff Hinton)在接受记者采访的时候 , 被问未来什么样的计算系统会更像大脑?他的回答是:“我认为我们需要转向不同类型的计算机 。 幸运的是 , 我这里有一个...” 欣顿伸手进入他的钱包 , 拿出一个又大又亮的硅片——一个 Graphcore IPU 芯片 。
IPU带来可持续发展路径2016 年 , 全球 AI 产业进入高速发展阶段 。 在过去 , 大概每隔三个月 , 模型参数规模就会提高一倍 。 2018 年 10 月 , 谷歌的 ResNet 模型有 3.3 亿个参数 。 2019 年3 月 , OPEN AI 的大型语言模型 GPT-2 达到 15.5 亿个参数 。 2020 年 , GPT-3 达到 1750 亿个参数 。 GPT-3 模型完成一次完整训练 , 要耗费千万美金级别的花销 。 这样的密集计算 , 很难带来持续发展 。 那么 , 是否有可持续发展的路径?
在论文《EfficientNet:对卷积神经网络的模型缩放的重新思考》(EfficientNet:Rethinking Model Scaling for Convolutional Neural Networks)中 , 论文作者通过平衡神经网络的深度、宽度、准确率 , 再通过找到平衡点、并把底层卷积改变之后 , 找到了大幅减小参数数量的方法 , 与此同时准确度也得到提升 。 卢涛认为 , 这是未来的代表方向之一 。
2020 年上半年 , 微软机器学习科学家 Sujeeth Bharadwaj 分享了 IPU 训练 CXR 模型的卓越性能 , IPU 在运行微软 COVID-19 影像分析算法 EfficientNet 和SONIC 时表现亮眼 , 在 30 分钟内完成了英伟达传统芯片需 5 个小时的训练工作量 。
【智能手表|一家英国明星芯片公司“悄然”入华!叫板英伟达A100】
图 | 微软用IPU和GPU训练用于新冠算法模型的对比
从 Graphcore 的角度来看 , 不管是 CPU 还是 GPU , 都不是针对 AI 应用而生 。 CPU 是标量处理器 , 它主要做模拟性判断 , 用于帮助程序员针对固定模式进行编程 。 CPU 特别适合的架构是通过大量的模拟处理器开发手机 App 和外包服务器 。 GPU 是针对图像处理而生 , 相比 CPU 来说 GPU 在并行度和向量机上都有很大提升 。