AWS推出了由Nvidia驱动的新GPU云实例


【AWS推出了由Nvidia驱动的新GPU云实例】AWS已宣布推出其配备下一代GPU的实例 。P4d实例在AWS首次启动其集群GPU实例(于2010年底推出)后将近十年,并承诺以更低的成本提供更好的性能 。
“今天,我想向您介绍新的配备GPU的P4实例,” AWS首席传教士Jeff Barr说 。这些实例由最新的Intel Cascade Lake处理器提供支持,并具有八个最新的NVIDIA A100 Tensor Core GPU,每个GPU通过NVLink连接到所有其他GPU,并支持NVIDIA GPUDirect 。与P3实例相比,这些实例具有2.5 PetaFLOPS的浮点性能和320 GB的高带宽GPU内存,可提供高达2.5倍的深度学习性能,并降低了高达60%的培训成本 。”
新实例具有1.1 TB的系统内存和8 TB的SSD存储 。它们还配备了四个100 Gbps网络连接,320 GB的高带宽GPU内存,按需价格为每小时32.77美元 。
对于大型企业,可以通过组合4000个或更多GPU来创建按需EC2 UltraCluster 。这些将使企业能够使用超级计算机规模的机器学习和高性能计算解决方案,包括财务建模,自然语言处理和其他形式的深度分析 。
无论组织规模大小,新的P4d实例都应帮助企业解决最大的机器学习挑战,同时显着降低成本 。多节点分布式培训还有望节省工作时间,并提供更多托管服务,从而提高生产力 。
随着机器学习在各行各业变得越来越普遍,无论AWS的新GPU实例是否使用了公司以前的实例,各种各样的企业都可能对其感兴趣 。

    推荐阅读