亚马逊推出新一代AWS P4 GPU实例

亚马逊云服务(AWS)今日推出了基于 GPU 的新 P4 实例 , 此时距离该公司的首套 GPU 集群实例上线已有十年 。 具体说来是 , P4 实例采用了英特尔 Cascade Lake 处理器 + 8 路 Nvidia 100 TensorFlow Core GPU 的方案 。 AWS 承诺新实例提供的深度学习性能是前一代的 2.5 倍 , 模型训练的性价比也有 60% 的优势 。
亚马逊推出新一代AWS P4 GPU实例文章插图
(来自:Amazon)
目前 AWS P4 GPU 实例仅提供了一种选项(p4d.12xlarge) , 8 路 @ Nvidia GPU 通过 NVLink 接口实现通信连接 , 此外也提供了对 GPUDirect 接口的支持 。
【亚马逊推出新一代AWS P4 GPU实例】凭借 320GB 的高带宽 GPU 显存和 400 Gbps 网络 , 再加上 96 个 CPU 核心、1.1 TB 系统内存、以及 8TB SSD存储 , 这套平台的性能也是相当惊人 。
亚马逊推出新一代AWS P4 GPU实例文章插图
按需使用的话 , AWS P4 GPU 实例的价格为 32.77 美元 / 小时 。 如果长期使用 , 那年费平均下来
Announcing the New Amazon EC2 P4d Instances(via)
在极端情况下 , 用户最高可选将 4000+ GPU 组合到一个 EC2 UltraCluster 集群中 。 但考虑到实际运算的成本 , 也只有少数企业客户能够承担得起 , 比如参与早期测试的丰田研究院、GE Healthcare 和 Aon。