撥云見(jiàn)日—六大云計算廠(chǎng)商聚首，國內首批GPU云

隨著(zhù)、的不斷發(fā)展和成熟，人工智能引發(fā)了新一輪的技術(shù)變革，成為未來(lái)信息技術(shù)發(fā)展的風(fēng)向標，計算力作為人工智能的三要素之一，GPU/FPGA芯片的加速能力也得到業(yè)界的廣泛關(guān)注和重視?；诖?，國內商開(kāi)始發(fā)力GPU市場(chǎng)，加大對基礎設施的投入。

由于FPGA與GPU相比，FPGA使用門(mén)檻較高，因而GPU應用更為廣泛。目前，GPU云主機主要用于機器（深度）學(xué)習、圖形處理、科學(xué)計算、視頻編解碼等場(chǎng)景，為了順應市場(chǎng)發(fā)展需求，由中國信息通信研究院主導的評估體系新增了對GPU主機的評估標準，相對于云主機，GPU云主機在服務(wù)形態(tài)仍有所差異，性能無(wú)疑是用戶(hù)重點(diǎn)關(guān)注的指標之一。

首批評估對象囊括了國內廠(chǎng)商的第一梯隊， 阿里云、騰訊云、華為云、百度云、天翼云、UCloud六大廠(chǎng)商齊聚首，堪稱(chēng)行業(yè)水平實(shí)力擔當。為了更好的讓用戶(hù)認識和了解GPU云主機，本次評估重點(diǎn)考察了大家關(guān)注的指標和GPU云主機特有的指標，如服務(wù)功能、資源調配能力和性能。 GPU云主機目前應用于機器（深度）學(xué)習占據了較大比例，今天主要討論基于深度學(xué)習的性能評估測試。

資源選型

目前主流的GPU型號主要是Nvidia的Tesla K、M和P系列，本次評估的資源選型基于P系列兩個(gè)型號進(jìn)行，6家廠(chǎng)商分為P40和P100兩組，在資源規格上，阿里云和騰訊云可同時(shí)提供A卡和N卡。GPU性能指標官方數據主要體現在單精度和雙精度，對用戶(hù)不具有實(shí)際的參考意義， 模擬用戶(hù)進(jìn)行機器學(xué)習訓練，直觀(guān)反映GPU主機性能，更加貼近用戶(hù)需求。

深度學(xué)習模型

深度學(xué)習的訓練主要依靠模型和數據集，國際上比較具有代性的訓練模型主要有：AlexNet模型、Cifar10模型、MNist模型、ResNet模型，此次評估選擇其中三個(gè)機器學(xué)習模型，數據集上的選擇，ImageNet數據量相對權威，但是有數據量過(guò)大，國內鏡像較少，不適合用于短期的測試驗證。本地評估測試主要基于機器學(xué)習模型默認數據集或數據精簡(jiǎn)集。以下是常見(jiàn)的深度學(xué)習模型：

01 AlexNet模型：

是Alex和Hinton參加ILSVRC2012比賽的卷積網(wǎng)絡(luò )模型，網(wǎng)絡(luò )結構是開(kāi)啟更深CNN的開(kāi)山之作，其對CNN的一些改進(jìn)成為以后CNN網(wǎng)絡(luò )通用的結構。

02 Cifar10模型：

是典型的卷積神經(jīng)網(wǎng)絡(luò )結構，包含相應的卷積層，池化層，修正線(xiàn)性單元以及最頂層帶有分類(lèi)器的歸一化采樣層。數據集為一個(gè)使用非常廣泛的物體識別圖像數據集，CIFAR-10數據中包含了60000張32×32的彩色圖像，其中訓練集50000張，測試集10000張。

03 Mnist模型：

MNIST是一個(gè)入門(mén)級的計算機視覺(jué)數據集，它包含各種手寫(xiě)數字圖片，包含60000行的訓練數據集（mnist.train）和10000行的測試數據集（mnist.test）。

04 ResNet模型：

深度殘差網(wǎng)絡(luò )。該網(wǎng)絡(luò )對residual block和shortcut connection的引入，使網(wǎng)絡(luò )能夠達到更高的層數并且不會(huì )發(fā)生網(wǎng)絡(luò )退化現象。ResNet是由KaiMing He在2015年發(fā)表，并基于該模型獲得了當年ImageNet detection，ImageNet localization，COCO detection等多個(gè)比賽的冠軍。

測試環(huán)節

在實(shí)際測試環(huán)節，首先要做的是搭建環(huán)境，如GPU驅動(dòng)、CUDA等必要條件，其中部分廠(chǎng)商已經(jīng)在操作系統鏡像集成了GPU驅動(dòng)，減少了安裝的工作量；在配置深度學(xué)習庫TensorFlow時(shí)，需要正確安裝對應版本的CUDA、cuDNN、Python等環(huán)境，也有廠(chǎng)商幫用戶(hù)提供好了容器的鏡像文件，細節體現差異，真正做到省時(shí)省力；結果處理環(huán)節，首先保證足夠多的數據量，將各個(gè)模型測試結果保存到本地文件，去除首末端噪點(diǎn)數據，再對數據進(jìn)行去除壞值，求最大、最小值、平均值、中位數、方差等數據，最終將數據可視化。

應用案例性能測試

除了使用經(jīng)典機器學(xué)習模型進(jìn)行性能測試之外，同期舉辦的云計算性能創(chuàng )新大賽廣泛征集了高校優(yōu)秀案例，對GPU云主機性能進(jìn)行了驗證。案例的取材包含了大型仿真、機器學(xué)習、科學(xué)計算等熱門(mén)應用場(chǎng)景，其中來(lái)自清華和蘭大的應用案例得到了專(zhuān)家評審的一致高度認可，體現了學(xué)術(shù)界和產(chǎn)業(yè)界的完美結合，成為云計算助力行業(yè)應用的成功典范。

目前首批評估的測試工作即將接近尾聲，結果也將于3月22日的高性能分論壇公布，如果您關(guān)注高性能計算、關(guān)注GPU云服務(wù)，一定不要錯過(guò)這此盛會(huì )。

相關(guān)鏈接：