解放双手，自主航行征服海洋不再是梦( 二 ) 导读：一文带你了解CPU如何在

文章插图
这也正是英特尔一直在考虑的问题。作为业界领先的计算解决方案提供商，英特尔旗下有包括至强可扩展家族在内的多款产品，加之特色的人工智能优化平台和软件，能够为康士伯集团提供软硬件一体化的服务。也正因为如此，在双方合作之后，康士伯集团的船舶自动驾驶平台也从GPU转向了CPU 。
这可谓是人工智能业界的一股“清流” 。我们知道，如今许多汽车自动驾驶平台都是基于GPU计算来实现的，包括许多图像的处理都需要借助于GPU的强大能力。但是在康士伯集团看来， GPU在应用层面过于繁琐，还需要专业的优化。相比之下英特尔提供的CPU平台无论是在适用性、易用性还是在性能表现上都远远超过GPU 。
文章插图
基于这一点，康士伯集团很快将原有设备更换为英特尔至强铂金8153处理器平台，搭配英特尔针对AI工作负载的专业软件，加之英特尔工程师团队的调优，使得康士伯集团原有的TensorFlow自动驾驶模型得到了大大加强，性能较未优化之前提升了4.8倍。
这是一个了不起的数字，也充分证明了CPU在人工智能应用中同样可以大放异彩，甚至打破了客户对于GPU的“迷信” 。 TensorFlow是目前最常用的开源深度学习平台，这次测试更说明英特尔至强处理器对于人工智能应用有着较好的适应性，未来也会有更多TensorFlow的用户加入其中。
文章插图
那么，英特尔是如何做到这一点的呢？这就不能不提到OpenVINO ，它是英特尔推出的一款全面的工具套件，用于快速部署应用和解决方案，支持计算机视觉的CNN网络结构超过150余种。依托卷积神经网络 (CNN) ， OpenVINO能够跨英特尔硬件（包括加速器）扩展工作负载，大幅提高性能，帮助开发人员创建模拟人类视觉的解决方案。
比如我们进行某项人工智能的应用研究。当模型训练结束后，上线部署时，就会遇到各种问题，比如模型性能是否满足线上要求、模型如何嵌入到原有工程系统、推理线程的并发路数是否满足等等，这些问题决定着投入产出比。只有深入且准确的理解深度学习框架，才能更好的完成这些任务，满足上线要求。实际情况是，新的算法模型和所用框架在不停的变化，这个时候恨不得工程师什么框架都熟练掌握，令人失望的是，这种人才目前是稀缺的。
OpenVINO的出现就解决了这个问题。 OpenVINO可以同时兼容各种开源框架训练好的模型，拥有算法模型上线部署的各种能力，只要掌握了该工具，你可以轻松的将预训练模型在英特尔至强平台上快速部署起来。这也使得原本对于使用人员的要求大大降低了，借助于OpenVINO即便是新手也能应付自如。
文章插图
使用 OpenVINO的高级推理过程
在AI工作负载中， OpenVINO提供了深度学习推理套件（DLDT) ，该套件可以将各种开源框架训练好的模型进行线上部署，除此之外，还包含了图片处理工具包OpenCV ，视频处理工具包Media SDK 。正是有着如此丰富的功能和可操作、易上手的应用特性，才使得OpenVINO能够在实际应用中大放异彩。当然对于康士伯集团这样庞大的应用来说，仅有OpenVINO还是不够，英特尔还为其配置了另一款神器——英特尔Python分发版。
Python是目前许多人接触编程的第一关，也是最普遍的编程语言。英特尔Python分发版则为用户提供了一个例程集合，为常见的数据科学相关任务(如线性代数或快速傅立叶变换)提供更好的性能。相对于传统编程的繁琐，英特尔Python分发版只需微调代码即可提高 Python 应用程序的性能、加速 NumPy、SciPy和 scikit-learn库、访问最新的矢量化和多线程指令等等。
文章插图
全新的工具也为康士伯集团的船舶自动驾驶带来了全新的发展机会。经过测试，全新部署的至强可扩展平台与未经优化的平台相比吞吐量提升了4.5倍，而单靠英特尔OpenVINO工具套件分发版依然可以获得2.4倍的性能提升。正如康士伯集团项目经理Jaakko Saarela所说的那样：“英特尔为我们提供了新工具和新的做事方法，让我们能够挖掘更多可能性，收获使用更为标准化的服务器平台的种种好处” 。