人工智能时代:打造AI基础平台是关键 | QCon+


人工智能时代:打造AI基础平台是关键 | QCon+
文章图片
现阶段 , 在政策和市场的双重驱动下 , 人工智能已经获得长足的进步和发展 。 随着AI技术在业务中的广泛应用 , 搭建自己的AI平台便成为了最近两年很多企业的重点战略规划 。
如何打造能够满足不同业务需求的高性能AI基础平台?如何满足不同产品、不同阶段对AI能力的诉求?
QCon+案例研习社即将上线《高性能AI平台的建设与应用》专题 , 腾讯、虎牙和华为等大厂的技术专家分别介绍了AI技术在企业各业务场景的应用实践 , 解读深度学习的一些前沿技术 , 获取关键技术解决方案 。 以下是专题案例详情:
案例一:
人工智能时代:打造AI基础平台是关键 | QCon+
文章图片
腾讯从GPU集群建设 , 到大规模的虚拟机/容器调度 , 最后到深度学习框架和组件的优化 , 都能提供全栈的解决方案 , 帮助AI工程师达成目标 。 目前支撑了腾讯内部游戏AI、CV、信息流、NLP等主流业务场景下的深度学习模型训练 。 演讲提纲:业务场景需求
深度学习平台整体架构
大规模GPU调度系统
深度学习加速
业务效果和演进方向
你将收获:对深度学习平台有完整全貌了解
介绍深度学习的一些前沿技术和其实际落地情况
案例二:
人工智能时代:打造AI基础平台是关键 | QCon+
文章图片
针对大规模标注数据交付难的问题 , 虎牙AI平台在引入外部标注团队的同时 , 开发了AI辅助标注技术 , 提升标注的人均和平台交付效率 。
在模型生产环节 , 虎牙AI平台提供了多种产品形态满足不同AI应用、不同阶段的需求 , 比如Notebook用于数据处理、模型构建 , 工作流平台满足模型自动化迭代的需求 , 大规模分布式训练平台解决模型训练时间过长的痛点 。
最后 , 虎牙AI平台的跨平台推理加速引擎 , 帮助算法工程师屏蔽底层复杂的异构计算环境 , 实现跨平台的模型优化和一键部署 。
演讲提纲:AI技术在直播场景中的应用及面临的挑战
虎牙AI平台技术架构演进
一站式机器学习平台建设
规划和展望
你将收获:机器学习端到端的工作流程
混合云架构下的AI基础设施建设
互动直播场景的AI工程实践
案例三:
人工智能时代:打造AI基础平台是关键 | QCon+
文章图片
当前边缘AI的主流模式是“云上训练 , 端边侧推理” , 但是边侧模型性能受限于资源 , 训练数据仍需上云 , 另外边侧模型同质 , 效果不能达到最佳 。 面对边缘资源受限、地理分布、数据有偏、场景化等特点 。
此案例将介绍一个基于开源KubeEdge平台的边云协同AI框架SolarCorona , 提供边云协同推理和边云协同训练能力 , 能快速开发具备边云系统AI能力的边缘应用 , 在边侧资源受限、小样本冷启动、数据隐私保护条件下 , 显著提升模型推理准确度10~20% 。 SolarCorona框架包括多目标模型组的生成、边侧模型增量学习和边侧数据不满足IID条件时的联邦迁移学习等特性 。
演讲提纲:【人工智能时代:打造AI基础平台是关键 | QCon+】边缘AI现状与技术挑战
边云协同AI框架SolarCorona架构
边云多模型协同推理微服务
边云协同训练微服务
案例介绍
你将收获:了解边缘AI的应用场景、价值和技术挑战 , 与传统离线AI和云上AI应用的差异;
了解边云协同AI框架SolarCorona框架 , 以及如何基于此框架开发具备边云协同AI能力的应用;
了解边云协同推理和训练模式对当前边缘AI“云上训练 , 端边推理”模式的效果提升 , 并了解一些关键技术方案 。