AI性能最高提升20倍 阿里云推出搭載NVIDIA A100的新

隨著(zhù)人工智能的不斷發(fā)展，深度學(xué)習的訓練模型越來(lái)越龐大和復雜，訓練模型對算力的需求也在快速增長(cháng)。

云上AI訓練已經(jīng)被越來(lái)越多的開(kāi)發(fā)者接受。為了讓開(kāi)發(fā)者第一時(shí)間享受到最新款的算力，近日，阿里云異構計算宣布推出gn7 GPU系列云服務(wù)器。這也是國內首款應用NVIDIA A100 GPU的商業(yè)化云服務(wù)器。

gn7系列實(shí)例是阿里云新一代GPU計算實(shí)例，主要面向AI訓練和高性能計算應用。該產(chǎn)品基于NVIDIA A100 Tensor Core GPU打造，云服務(wù)器中的8塊A100 GPU以NVIDIA NVSwitch實(shí)現了GPU之間的NVLink直接通信。

結合最新支持的Tensor Core加速能力，阿里云gn7云服務(wù)器最高可讓AI最佳性能提升20倍，高性能計算速度提升2.5倍，單卡最高支持19.5TFlops（FP64）、156TFlops （TF32）、312 TFlops（FP16 混合精度）的運算。對于大模型訓練的場(chǎng)景，阿里云自研的神龍AI加速引擎AIACC可以通過(guò)優(yōu)化多GPU訓練通信效率，進(jìn)一步提升多GPU和多機并行訓練的加速比，為AI研發(fā)過(guò)程節省更多的時(shí)間和成本。

第一批上線(xiàn)的產(chǎn)品為效率最高的阿里云神龍裸金屬實(shí)例ebmgn7, 用戶(hù)可直接獲得一臺完整的配置有Intel 2代Xeon Scalable 52核CPU、768G系統內存和由 NVSwitch互聯(lián)的8顆A100 的GPU服務(wù)器主機。 

隨著(zhù)人工智能的不斷發(fā)展，深度學(xué)習的訓練模型越來(lái)越龐大和復雜，訓練模型需要的算力也在快速增長(cháng)。針對AI訓練和高性能計算的算力需求，NVIDIA于今年5月推出了 A100 GPU。NVIDIA A100 GPU基于最新NVIDIA 安培（Ampere）架構，不僅通過(guò)制程優(yōu)化提升了計算性能，同時(shí)優(yōu)化了計算架構，其第三代Tensor Core可以對單精度及雙精度進(jìn)行加速，大幅提升了整體計算性能。

阿里云gn7系列云服務(wù)器上線(xiàn)，意味著(zhù)各大企業(yè)可以立即開(kāi)始使用最新一代的GPU的強大算力。該系列實(shí)例適合深度學(xué)習場(chǎng)景，如圖像識別、無(wú)人駕駛、語(yǔ)音識別等人工智能算法的訓練應用；也適用于諸如計算流體動(dòng)力學(xué)、計算金融學(xué)、分子動(dòng)力學(xué)、環(huán)境分析等GPU加速的高性能計算場(chǎng)景。

云是獲取AI算力最為便捷的方式，相較于自行購買(mǎi)服務(wù)器，用戶(hù)可以按需要隨時(shí)購買(mǎi)GPU實(shí)例資源，訓練和推理任務(wù)結束時(shí)，自動(dòng)釋放/停止GPU實(shí)例資源。阿里云擁有亞洲最大的異構計算集群，加上秒級交付的彈性能力，為行業(yè)提供強大的AI算力。

針對人工智能場(chǎng)景，阿里云異構計算提供了軟硬一體性能優(yōu)化方案，自研的飛天AI加速器（AIACC）是業(yè)界首個(gè)支持Tensorflow、PyTorch、MXNet、Caffe等主流開(kāi)源框架的深度學(xué)習加速引擎，它針對訓練場(chǎng)景和推理場(chǎng)景，結合阿里云的網(wǎng)絡(luò )和異構計算架構作了優(yōu)化，云上訓練有2-14倍的性能提升，推理場(chǎng)景下性能提升2-6倍。

前不久，阿里云異構計算也推出了獨有的cGPU容器技術(shù)和彈性加速計算實(shí)例（EAIS），與神龍AI加速引擎（AIACC）一起組成阿里云異構計算的三大特色優(yōu)勢，為用戶(hù)提供靈活高效、性能超群的異構計算基礎設施。