技术：旷视开源深度学习框架「天元」！孙剑：COCO三连冠背后的秘密武器( 三 ) |人工智能|深度学习|算法|

内存优化上，天元同时采用了动态、静态内存分配并存的方式，支持自动亚线性内存优化，同时，旷视独创了自动的亚线性内存管理优化器，使天元能够得到更好的内存优化效果。
天元的底层（计算内核）拥有一个基于异构架构，内置高效计算机视觉算子的计算内核，具备X86 ， CUDA等主流硬件设备智能适配能力。
其可以通过内置算法，根据设备本身启发式地选择最优内核，也能让用户自己选择最适合的内核进行计算。
此外，天元配备了高性能异构通信库，支持用户在不同机器和计算卡之间进行高性能的通信，以实现多机多卡、大规模、分布式的算法训练。
如此框架，用到实际中效果会怎样呢？
开头就有说，旷视创业发展至今，成为全球估值最高的AI独角兽之一，背后离不开这个框架的强力驱动。
旷视核心中的核心过去的6年中，天元框架作为旷视“真核”Brain++的一部分，与深度学习云计算平台（MegCompute）、以及数据管理平台（MegData）一起，支撑旷视全部业务。

本文插图
旷视首席科学家、研究院院长孙剑说：“旷视1400名研发人员，全部使用天元框架，并将其应用到了上百个产品、几十种计算平台上。 ”
在孙剑看来，天元与谷歌推出的TensorFlow、Facebook推出的PyTorch有很大不同。
“AI公司的深度学习框架和平台公司的深度学习框架，考虑的点、方位、方向上都不同。 ”他说， “我们的深度学习框架（天元）生长在旷视的核心业务上，我们希望能够对特定方向上的AI开发者带来好处，希望他们可以同时或者使用不同的框架来解决不同的问题。 ”
比如在主流的计算机视觉模型（ResNet 18、ResNet50、MobileNet v2和 ShuffleNet V2）上，天元的训练速度不同于其他主流框架。

本文插图
在这次开源中，围绕着天元框架，旷视还发布了一系列开发工具。
比如开箱即用的在线深度学习工具MegStudio ，能够让开发者快速体验天元的框架，训练模型。天元还上线了囊括顶尖算法的模型中心ModelHub ，其中包括旷视研究院最新的技术、研究成果。
与此同时，旷视也将分布式计算中的数据并行和模型并行方式应用到了天元中，进一步提升大规模图像数据处理和模型训练的效率。
面向更大范围、更多种类设备上的部署，天元提供了神经架构搜索、网络剪枝和构建低比特的小型神经网络等功能。
而且，天元中还集成了旷视最新的 AutoML 技术，自动化设计深度学习算法的各个关键环节，让算法来训练算法，让AI来创造AI ，降低上手门槛。
以上种种能力，无不证明着，天元正是旷视核心中的核心，压箱底的本领。
最直接的例子，莫过于旷视持续三年拿下COCO重头戏“物体检测”冠军，统治力堪比“中国乒乓球队” 。在2019年ICCV夺冠后，孙剑再次感谢Brain++ ，称一连串成绩的取得，离不开背后强大的Brain++ 。

本文插图
而承担着Brain++平台生产/开发算法任务的天元，更是发挥着重要的作用。
但就是如此利器重器、核心中的核心，旷视现在开源了。
why？
历时6年打造优化，开源是“无限游戏” 对于旷视来说，直接推动开源的因素有两个：一是技术是否成熟，二是时机是否得当。
旷视联合创始人、CEO印奇称，这直接与AI行业的发展有关系。
他说，当算法变成改造甚至颠覆软件行业的力量时，最后核心就是看这些AI的公司有没有平台化的能力，即“能够批量、高效、比竞争对手更及时地供应优质算法” 。