亚马逊推出新一代AWS P4 GPU实例亚马逊云服务（AWS）今日推出了基于GPU

亚马逊云服务（AWS）今日推出了基于 GPU 的新 P4 实例，此时距离该公司的首套 GPU 集群实例上线已有十年。具体说来是， P4 实例采用了英特尔 Cascade Lake 处理器 + 8 路 Nvidia 100 TensorFlow Core GPU 的方案。 AWS 承诺新实例提供的深度学习性能是前一代的 2.5 倍，模型训练的性价比也有 60% 的优势。
文章插图
（来自：Amazon）
目前 AWS P4 GPU 实例仅提供了一种选项（p4d.12xlarge）， 8 路 @ Nvidia GPU 通过 NVLink 接口实现通信连接，此外也提供了对 GPUDirect 接口的支持。
凭借 320GB 的高带宽 GPU 显存和 400 Gbps 网络，再加上 96 个 CPU 核心、1.1 TB 系统内存、以及 8TB SSD存储，这套平台的性能也是相当惊人。
文章插图
按需使用的话， AWS P4 GPU 实例的价格为 32.77 美元 / 小时。如果长期使用，那年费平均下来
Announcing the New Amazon EC2 P4d Instances（via）
【亚马逊推出新一代AWS P4 GPU实例】在极端情况下，用户最高可选将 4000+ GPU 组合到一个 EC2 UltraCluster 集群中。但考虑到实际运算的成本，也只有少数企业客户能够承担得起，比如参与早期测试的丰田研究院、GE Healthcare 和 Aon。