傻大方


首页 > 潮·科技 > >

老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台( 三 )



按关键词阅读:


文章插图
Maxine使用计算机视觉来追踪人的面部,并识别其表情,3D动画可为其制作虚拟而逼真的头像。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
可以想象,在企业和开发人员中,每个行业都需要某种形式的虚拟化身。
使用Omniverse Avatar平台,你可以为视频会议和协作平台、客户支持平台、内容创建、应用收益和数字孪生、机器人应用等等构建定制的AI助理。
NVIDIA的虚拟世界模拟Omniverse是打造虚拟世界的关键平台。从机器人、自动驾驶车队、仓库、工业厂房到整个城市,都能在Omniverse数字孪生中完成创建、训练和运行。
黄仁勋说,Omniverse面向数据中心规模设计,有朝一日有望能达到全球数据规模。
爱立信正构建整个城市的数字孪生环境,帮助确定如何放置和配置每个站点以获得最佳覆盖范围和网络性能,可对整个5G网络执行逼真远程仿真。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
五:AI推理:Triton推理服务器助力实时大模型推理目前微软、三星、Snap等25000多家客户都在使用NVIDIA的AI推理平台。
今日,NVIDIA推出多节点分布式推理功能的NVIDIA Triton推理服务器,以及NVIDIA A2 Tensor Core GPU加速器。
NVIDIA A2 GPU是一个入门级、低功耗的紧凑型加速器,适用于边缘服务器中的推理和边缘AI,推理性能比CPU高出20倍。
NVIDIA AI推理平台此次更新包括开源NVIDIA Triton推理服务器软件的新功能,和对NVIDIA TensorRT的更新。
最新NVIDIA Triton推理服务器中的多GPU、多节点特性,使大型语言模型推理工作负载能够实时在多个GPU和节点上扩展。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
借助Triton推理服务器,Megatron 530B能在两个NVIDIA DGX系统上运行,将处理时间从CPU服务器上的1分钟以上缩短到0.5秒,令实时部署部署大型语言模型成为可能。
在软件优化上,Triton推理服务器的模型分析器,新工具可以自动化地从数百种组合中为AI模型选择最佳配置,以实现最优性能,同时确保应用程序所需的服务质量。
RAPIDS FIL是针对随机森林和梯度提升决策树模型GPU或CPU推理的新后端,为开发者使用Triton进行深度学习和传统机器学习提供了一个统一的部署引擎。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
Triton与AWS、阿里云等平台集成,并支持在各代GPU、x86 CPU和Arm CPU上优化AI推理工作负载。NVIDIA AI Enterprise也集成了Triton。
NVIDIA AI Enterprise是一款经NVIDIA优化、认证和支持的用于开发和部署AI的端到端软件套件,客户可利用它在本地数据中心和私有云的主流服务器上运行AI工作负载。
NVIDIA旗舰TensorRT推理引擎亦进行了更新,已原生集成到TensorFlow和PyTorch中,只需1行代码,就能提供比框架内推理快3倍的性能。
NVIDIA TensorRT 8.2是SDK的最新版本,可实时运行数十亿个参数的语言模型。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
NVIDIA还宣布微软会议软件Teams采用NVIDIA AI和Azure认知服务。
微软Azure认知服务为高品质AI模型提供基于云的API,以创建智能应用程序。他们在用Triton运行语音转文本模型,为微软Teams用户提供准确的实时字幕和转录。
微软Teams每月有近2.5亿活跃用户,微软Azure认知服务上的NVIDIA GPU和 Triton推理服务器使用28种语言和方言,结合AI模型帮助提升实时字幕和转录功能的成本效益。
Mavenir宣布由NVIDIA Metropolis AI-on-5G平台提供支持的MAVedge-AI智能视频分析,以加速企业人工智能,该方案预计2022年初提供给客户。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
六、数据中心:全新网络安全功能面向数据中心,黄仁勋宣布推出BlueField DOCA 1.2来支持全新网络安全功能,希望使BlueField成为业界构建零信任安全平台的理想之选。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
目前有1400名开发者正在BlueField上进行开发,现在采用BlueField的网络安全公司已可提供零信任安全即服务。
NVIDIA还发明了一个深度学习网络安全平台Morpheus来监控分析网络行为。
它构建于NVIDIA RAPIDS和NVIDIA AI之上,其工作流会为每种应用和用户的组合创建AI模型和数字指纹,并学习其日常的模式和寻找异常操作。这些异常操作将触发安全警告,并提醒分析员作出响应。
老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台
文章插图
Bluefield、DOCA和Morpheus都是数据中心的全堆栈加速AI解决方案的一部分。NVIDIA将为其网络安全合作伙伴提供一个零信任的安全平台,从而提高安全性和应用程序性能。


稿源:(智东西)

【傻大方】网址:http://www.shadafang.com/c/1110952Y62021.html

标题:老黄数字人登场!英伟达秀“元宇宙”肌肉,推巴掌大AI超算和虚拟人平台( 三 )


上一篇:媒体|广告投放的"贵与便宜"之间的算计和计算

下一篇:欧盟委员会|亚马逊正与欧盟谈判 希望达成反垄断和解