爱云资讯|与开发者共创AI新时代，华为昇腾学院技术开放日火爆成都( 二 ) 这次昇腾学院精心准备的成都技术开放日

软硬件协同的算法优化技巧——CANN使用指南

文章图片
华为昇腾AI专家王晓雷在发言时首先表示，开发者训练一个模型往往耗时长花费大，当前限制深度学习发展的主要矛盾其实是人民群众日益增长的算力需求和昂贵的生产力之间的矛盾。如何破?华为CANN提供软硬件协同优化方案，就可以让开发者迅速低成本地进行深度学习。
她介绍到， CANN是芯片算子库和高度自动化算子开发工具，兼具开发效率和算子匹配昇腾芯片性能。在融合引擎方面， CANN基于昇腾处理器的内存架构，实现算子融合，减少算子内存搬移，提升性能17% 。此外， TBE算子开发工具预置了丰富API接口，支持用户自定义算子开发和自动化调优， CCECompiler基于C/C++扩展的异构混合编程语言的编译器及二进制工具集，性能、高效编程，能够实现昇腾处理器全场景支持。
演讲最后她总结了四点：1、通过代码可以实现高达50%的性能提升，这也意味着省一半钱;2、昇腾提供CANN框架帮助大家进行软硬件协同优化;3、算子融合是平台无关的常见优化技巧，对开发者非常有帮助;4、如果开发者不愿意写程序进行优化，可以买Atlas性价比更高。
MindStudio全流程开发实践

文章图片
华为昇腾AI专家谭涛表示MindStudio是面向Ascend芯片的全栈开发工具链，提供面向AI算子开发、模型开发、应用开发的全栈全场景支持。谭涛举例说到，在算子开发场景中，开发者可以进行创建算子工程、算子开发、算子调试、算子仿真运行、算子调优、算子上板运行、算子质量评估等AI全栈开发场景。而在模型转换中，开发者可以进行创建算法工程、模型训练、生成模型、模型转换、模型算子比对、模型整网调优、模型评估所有环节开发。
他还特别指出，华为提供的是向导式模型转换，可以快速导入Caffe、TensorFlow模型。开发者只要选择模型，然后配置输入和输出节点，最后进行图像预处理，就可以轻松使用。
【爱云资讯|与开发者共创AI新时代，华为昇腾学院技术开放日火爆成都】在谈到MindStudio的特色优势时，谭涛表示， MindStudio优势非常突出，他列举了几条：一是支持多种算子比对方式，快速定位算子精度差异;二是模型可视化，整网结构一目了然;三是整网运行profiling分析，快速定位应用性能瓶颈;四是代码智能补全，定义跳转和引用查看;五是设备管理，与Atlas设备紧密协同;六是内置终端，后台操作不再切屏。
深入浅出介绍全场景AI框架MindSpore

文章图片
华为MindSpore高级工程师王俊对MindSpore做了总体架构介绍，然后他还向开发者介绍了MindSpore构建网络模型基本步骤。
他表示， MindSpore的易用性非常好，采用的是统一编译，即网络和算子统一表达和编译，复杂网络自动并行， E2E的自动微分(网络和算子) ，精准可视调优。在性能方面， MindSpore表现出色，全栈编译加速，软硬件协同，并且MindSporeIR实现图和算子统一融合优化，与Ascend软硬件协同，可以实现深度图优化。在全场景方面，端侧推理和云上训练协同，可以根据设备信息自适应模型生成，并且训练时量化，实现更好的量化精度和更小的计算开销。
主题演讲结束后，华为昇腾学院还贴心地为开发者和演讲嘉宾安排了交流平台，让开发者参观昇腾展厅，并与专家面对面交流。更有开发者在华为昇腾AI专家毛红朝的指导下进行上机实验，真实感受昇腾的魅力，并且完成学习后，就可以获得华为昇腾的微认证。相信这次昇腾学院精心准备的成都技术开放日，给成都开发者们留下了深刻的印象，未来也将有更多开发者加入昇腾生态，学习最领先的AI技术，开创AI新时代!