算力至上？四大AI芯片大对决( 二 ) 来源|老石谈芯（ID:laoshi_tanxi

在这个思维框架里，一共有五个衡量因素。除了性能之外，还有灵活性、同构性、成本和功耗四点。
其中，灵活性指的是这个AI芯片对不同应用场景的适应程度。也就是说，这个芯片能不能被用于各种不同的AI算法和应用。
同构性指的是，当我们大量部署这个AI芯片的时候，我们能否重复的利用现有的软硬件架构和资源，还是需要引入其他额外的东西。举个简单的例子，比如我的电脑要外接一个显示器，如果这个显示器的接口是HDMI ，那么就可以直接连。但是如果这个显示器的接口只有VGA或者DVI或者其他接口，那么我就要买额外的转接头才行。这样，我们就说这个设备，也就是显示器，它对我现有系统的同构性不好。
文章插图
成本和功耗就比较好理解了。成本指的就是钱和时间，当然如果细抠的话，还有投入的各种人力物力，以及没有选择其他芯片带来的机会成本等等。不过归根到底还是钱和时间。成本包含两大部分，一部分是芯片的研发成本，另一部分是芯片的部署和运维成本。
功耗就更好理解了，指的就是某种AI芯片对数据中心带来的额外的功耗负担。
文章插图
比较：4种芯片， 5个维度
现在我们知道了这个思维框架里的五个重要元素，那么我们就能对前面提到的四种芯片，也就是CPU、GPU、ASIC和FPGA做一个定性的比较了。这里声明一下，这些对比仅代表我个人的观点，也欢迎大家在留言里和我交流你的想法。
CPU
对于CPU来说，它仍然是数据中心里的主要计算单元。事实上，为了更好的支持各种人工智能应用，传统CPU的结构和指令集也在不断迭代和变化。
文章插图
比如，英特尔最新的Xeon可扩展处理器，就引入了所谓的DL Boost ，也就是深度学习加速技术，来加速卷积神经网络和深度神经网络的训练和推理性能。但是相比其他三种芯片， CPU的AI性能还是有一定差距。
CPU最大的优势就是它的灵活性和同构性。对于大部分数据中心来说，它们的各种软硬件基础设施都是围绕CPU设计建设的。所以CPU在数据中心的部署、扩展、运维，包括生态其实都已经非常成熟了。它的功耗和成本不算太低，但也还在可接受的范围内。
GPU
GPU有着大规模的并行架构，非常适合对数据密集型的应用进行计算和处理，比如深度学习的训练过程。和CPU相比， GPU的性能会高几十倍甚至上千倍。因此业界的很多公司，都在使用GPU对各种AI应用进行加速。
文章插图
GPU的另外一个优势，是它有着比较成熟的编程框架，比如CUDA ，或者OpenCL等等，这是GPU在AI领域得到爆发最直接的推动力量之一，也是GPU相比FPGA或者ASIC的最大优势之一。
但是， GPU的最大问题就是它的功耗。比如，英伟达的P100、V100和A100 GPU的功耗都在250W到400W之间。相比于FPGA或ASIC的几十瓦甚至几瓦的功耗而言，这个数字显得过于惊人了。
而对于神经网络的训练来说，它往往需要大量密集的GPU集群来提供充足的算力。这样一来，一个机柜的功耗就可能会超过几十千瓦。这就需要数据中心为它修改供电和散热等结构。比如传统的数据中心大都靠风扇散热，但如果要部署GPU ，就可能要改成水冷散热。对于大数据中心来说，这是笔巨大的开销。
文章插图
伴随着高功耗，更大的问题实际是高昂的电费开支。要知道，现代数据中心的运维成本里，电费开支占40%甚至更高。所以，对于GPU在数据中心里的大规模部署，我们通常考虑的是它所带来的性能优势，能否抵消它带来的额外电费。
ASIC
ASIC就是所谓的人工智能专用芯片。这里的典型代表，就是谷歌阿尔法狗里用的TPU 。根据谷歌的数据， TPU在阿尔法狗里替代了一千多个CPU和上百个GPU 。
文章插图
在我们的衡量体系里，这种AI专用芯片的各项指标都非常极端，比如它有着极高的性能和极低的功耗，和GPU相比，它的性能可能会高十倍，功耗会低100倍。