AWS云服务器推出Amazon EC2 P6-B200实例 搭载NVIDIA B200 性能提升2倍

近日亚马逊云科技（AWS）宣布推出新型云服务器实例——搭载NVIDIA B200的Amazon EC2 P6-B200，即GPU云服务器。新实例与P5en相比，能够大规模提高训练和推理性能高达2倍。目前Amazon EC2 P6-B200实例已在AWS美国西部（俄勒冈州）区域上线，用户可通过Amazon EC2 Capacity Blocks for ML使用Amazon EC2 P6-B200实例。

AWS官网：点击直达（注册立享12个月免费云服务器）

据亚马逊云科技官方描述，AWS云服务器推出的Amazon EC2 P6-B200实例支持加速各种支持GPU的工作负载，适合于使用强化学习和蒸馏法对基础模型进行大规模分布式人工智能训练和推理、多模态训练和推理，以及气候建模、药物发现、地震分析和保险风险建模等HPC应用程序的推理。解决了客户对人工智能、机器学习和高性能计算场景的更高需求。

另外AWS云服务器Amazon EC2 P6-B200实例支持与弹性结构适配器网络、AmazonEC2 UltraClusters的超大规模集群能力，以及Amazon Nitro系统的高级虚拟化和安全功能相结合，在提高安全性的情况下能够以更快速度和更大规模部署基础模型。

因此与AWS云服务器Amazon EC2 P5en实例相比，Amazon EC2 P6-B200实例在生成式AI训练（训练耗时）和推理（token/s）方面的性能提升可达两倍之多。

Amazon EC2 P6-B200实例支持无缝集成多项亚马逊云科技托管服务，包括Amazon EKS、Amazon S3以及Amazon FSx for Lustre。另外针对Amazon SageMaker HyperPod的支持功能也即将上线。

AWS云服务器Amazon EC2 P6-B200实例优势：

1、大规模提高训练和推理性能

AWS云服务器Amazon EC2 P6-B200实例提供8个NVIDIA Blackwell GPU，具有1440GB的高带宽GPU内存、第5代英特尔至强可扩展处理器 、2TiB系统内存和30TB本地NVMe存储。与P5en实例相比，这些采用Blackwell GPU的实例的GPU TFLOP提高了125%，GPU内存大小增加了27%，GPU内存带宽增加了60%。

2、使用AWS Nitro System获得增强的安全性和稳定性

AWS云服务器Amazon EC2 P6-B200实例由AWS Nitro系统提供支持，该系统具有专用硬件和固件，旨在实施限制，因此任何人（包括AWS用户）都无法访问敏感AI工作负载和数据。Nitro实时更新可以在系统保持运行的情况下将固件更新、错误修复和优化部署到Nitro卡，提高了稳定性并减少了停机时间。

3、在高性能GPU集群中扩展AI训练

为了实现更高效的分布式训练，AWS云服务器Amazon EC2 P6-B200实例提供每秒3.2TB的第四代Elastic Fabric Adapter联网 （EFAv4）和1800GB/s的GPU到GPU互连。这些实例部署在Amazon EC2 UltraCluster中，可以在PB级无阻塞网络中扩展到数万个GPU。

3、降低AI训练、推理和HPC成本

AWS云服务器Amazon EC2 P6-B200实例缩短了训练时间并降低了训练成本，使模型提供商能够加快更大、性能更高的模型的上市时间。支持广泛的AI和HPC工作负载，包括从深度学习训练和推理到科学模拟和计算机视觉应用程序。

4、高性能存储

不仅如此，AWS云服务器Amazon EC2 P6-B200实例还支持Amazon FSx for Lustre文件系统，支持以大规模DL和HPC工作负载所需的数百GB/s吞吐量和数百万IOPS访问数据，提供高达30TB的本地NVMe SSD存储，可快速访问大型数据集。还可以通过Amazon S3获得几乎无限的经济高效的存储。

AWS云服务器Amazon EC2 P6-B200实例规格：

• 第五代英特尔至强可扩展处理器

• 8个NVIDIA B200 GPU

• 1440 GB高带宽GPU内存

• 2 TiB系统内存

• 30 TB NVMe

AWS云服务器Amazon EC2 P6-B200实例应用：

目前可以通过亚马逊云科技美国西部（俄勒冈州）区域通过Amazon EC2 Capacity Blocks for ML使用Amazon EC2 P6-B200实例。如若需要预定Amazon EC2容量块，请在Amazon EC2控制台上选择Capacity ReservatIONs。选择“购买ML容量块”后，选定总容量并指定Amazon EC2 p6-b200.48xlarge实例的Amazon EC2容量块使用时长预留天数可选1-14天、21天、28天或以7天为增量，最长不超过182天，最多可提前8周设置最早启动日期。