NVIDIA推出A100,这是第一款基于该公司Ampere架构的GPU,它将AI培训和推理相结合,将性能提升了20倍以上。其多实例GPU功能允许将每个A100 GPU划分为多达七个独立的实例来执行推理任务,而第三代NVLink互连技术使多个A100 GPU可以充当一个巨型GPU来执行更大的训练任务。阅读更多有关两个视频和其他信息的信息。
许多领先的云服务提供商已将A100 GPU集成到其产品中,包括:阿里云,亚马逊网络服务(AWS),Atos,百度云,思科,戴尔技术,富士通,技嘉,谷歌云,H3C,惠普企业(HPE) ),MicrosoftAzure,Oracle和腾讯云。
需要大量数据的现代而复杂的AI训练和推理工作负载可以从NVIDIA A100 GPU等最先进的技术中受益,这有助于减少模型训练时间并加快机器学习开发过程。此外,使用基于云的GPU群集使我们获得了新的灵活性,可以根据需要进行伸缩,从而有助于提高效率,简化我们的运营并节省成本。” DoorDash的机器学习工程师Gary Ren说。