英特爾年底推神經(jīng)網(wǎng)絡(luò )處理器 2020年深度學(xué)習性能

英特爾已經(jīng)準備好在2017年年底推出人工智能芯片。

英特爾CEO Brian Krzanich 昨天說(shuō)，Facebook在英特爾新芯片的發(fā)布上提供了幫助。

Krzanich寫(xiě)道：“當我們將新一代AI硬件推向市場(chǎng)時(shí)，我們很高興Facebook能夠提供密切合作并共享其技術(shù)見(jiàn)解。英特爾發(fā)言人寫(xiě)信給《財富》雜志的一封電子郵件上說(shuō)，兩家公司正在合作，但他們沒(méi)有確立正式的合作伙伴關(guān)系。

英特爾 Nervana 神經(jīng)網(wǎng)絡(luò )處理器的來(lái)自英特爾在2016年收購的芯片初創(chuàng )公司Nervana Systems。該收購旨在幫助英特爾創(chuàng )建自主的半導體技術(shù)，這些技術(shù)可以滿(mǎn)足像深度學(xué)習這樣的需要大量的計算機處理才能創(chuàng )建可以在大量數據中發(fā)現和反應模式的軟件的任務(wù)。

在沒(méi)有AI優(yōu)化芯片的情況下，像沃爾瑪這樣希望在其內部數據中心開(kāi)展深度學(xué)習任務(wù)的公司已經(jīng)轉向與構建圖形處理單元（GPU）的Nvidia等英特爾的競爭對手。

隨著(zhù)對人工智能變得火熱及其成為大生意的潛力不斷增長(cháng)，英特爾的新芯片代表了該公司面臨的一個(gè)關(guān)鍵時(shí)刻，該公司已經(jīng)錯過(guò)了此前的移動(dòng)計算技術(shù)趨勢。

英特爾新芯片項目的領(lǐng)導者Naveen Rao說(shuō)：“英特爾這樣的公司不會(huì )經(jīng)常發(fā)布新的產(chǎn)品。但是， “這真的是計算歷史上的一個(gè)重要時(shí)刻?！?/p>

根據《財富》的報道，Nervana的CEO Rao說(shuō)，英特爾最終將會(huì )以?xún)煞N不同的方式向消費者售賣(mài)這一芯片。

一種方法是，英特爾將向希望在自己的數據中心運行深入學(xué)習項目的客戶(hù)銷(xiāo)售一些數據中心設備，其中包含幾個(gè)新的Nervana神經(jīng)網(wǎng)絡(luò )處理器以及英特爾的CPU。

其次，客戶(hù)還可以通過(guò)英特爾的云數據中心租用芯片，這與Nvidia公司銷(xiāo)售其AI定制GPU的方式相似。

英特爾不會(huì )單獨出售芯片本身，Rao說(shuō)。他解釋說(shuō)，運行AI項目并不像僅僅將新的處理器安裝到計算機那樣簡(jiǎn)單。他表示，英特爾新的數據中心設備是為了適應大多數深度學(xué)習項目而設計的，并且那些剛剛涉足這一領(lǐng)域的公司也可以使用。

最終，英特爾可能會(huì )開(kāi)發(fā)一個(gè)更可自定義的版本AI數據中心盒子，但現在它堅持使用其一體化軟件包。

“這只是一個(gè)起點(diǎn)”，Rao說(shuō)。 “我預計未來(lái)會(huì )有一個(gè)具有即插即用模塊的生態(tài)系統?！?/p>

Naveen Rao撰文解讀英特爾神經(jīng)網(wǎng)絡(luò )處理器四大關(guān)鍵技術(shù)特征

昨天，英特爾?Nervana?神經(jīng)網(wǎng)絡(luò )處理器負責人Naveen Rao在官網(wǎng)上撰文，解讀了即將于年底推出的新芯片的技術(shù)特征，以下是詳細介紹：

Naveen Rao：

正如英特爾首席執行官布Brian Krzanich今天早些時(shí)候在華爾街日報的D.Live活動(dòng)中討論的那樣，英特爾將很快會(huì )出貨世界上第一批從頭至尾專(zhuān)為人工智能打造的系列處理器——英特爾?Nervana?神經(jīng)網(wǎng)絡(luò )處理器系列（以前稱(chēng)為“Lake Crest”）。這個(gè)處理器系列的研發(fā)已經(jīng)有3年多的時(shí)間，作為開(kāi)發(fā)團隊的代表，我想分享一下這一世界第一款神經(jīng)網(wǎng)絡(luò )處理器背后的動(dòng)機和設計的初衷。

深度學(xué)習的計算需求要求對圍繞支持AI計算的硬件有一些新的思維。為此，我們設計了一個(gè)名為“英特爾?Nervana?神經(jīng)網(wǎng)絡(luò )處理器（英特爾?Nervana?NNP）”的深度學(xué)習新芯片。

英特爾Nervana NNP是專(zhuān)為深度學(xué)習設計的架構。這種新架構的目標是提供深度學(xué)習所需的靈活性，以支持所有深度學(xué)習元語(yǔ)（primitives），同時(shí)使核心硬件組件盡可能高效。

我們設計了英特爾Nervana NNP，使我們免受現有硬件的限制，因為這些硬件并不是明確設計為AI的。

1. 新的內存架構旨在最大限度地提高硅計算的利用率

矩陣乘法和卷積是深度學(xué)習核心的一些重要原語(yǔ)。這些計算與通用的工作負載不同，因為操作和數據移動(dòng)在很大程度上是先天知道的。因此，Intel Nervana NNP沒(méi)有標準的緩存層次結構，片上存儲器是由軟件直接管理的。更好的內存管理使芯片能夠在每個(gè)裸片上實(shí)現大量計算的高水平利用，這意味著(zhù)深度學(xué)習模型訓練可以更快地完成。

2. 實(shí)現AI模型可擴展性的新水平

采用高速片上和片外互連設計，Intel Nervana NNP可實(shí)現大量雙向數據傳輸。一個(gè)具體的設計目標是實(shí)現真正的模型并行性，其中神經(jīng)網(wǎng)絡(luò )參數分布在多個(gè)芯片上。這使得多個(gè)芯片充當一個(gè)可以容納更大型號的大型虛擬芯片，從而允許客戶(hù)從其數據中獲取更多洞察力。

3. 高度數值并行性：Flexpoint

單個(gè)芯片上的神經(jīng)網(wǎng)絡(luò )計算主要受電源和存儲器帶寬的限制。為了實(shí)現神經(jīng)網(wǎng)絡(luò )工作負載的更高的吞吐量，除了上述內存創(chuàng )新之外，我們還發(fā)明了一種名為Flexpoint的新數字格式。 Flexpoint允許將標量計算實(shí)現為定點(diǎn)乘法和加法，同時(shí)允許使用共享指數的較大動(dòng)態(tài)范圍。由于每個(gè)電路較小，這導致了芯片上的并行性的大幅度增加，同時(shí)降低了每次計算的功率。

4. 性能

當下的AI革命實(shí)際上是計算上的演進(jìn)。自集成電路的發(fā)明以來(lái)，英特爾一直是推進(jìn)計算極限的核心。我們擁有行業(yè)和研究方面的早期合作伙伴，他們正在與我們一起走在這個(gè)旅程中，共同促成第一個(gè)商業(yè)神經(jīng)網(wǎng)絡(luò )處理器，并對各行各業(yè)都產(chǎn)生積極的影響。我們有一個(gè)產(chǎn)品路線(xiàn)圖，能讓我們超過(guò)了我們去年設定的目標，在2020年，將深度學(xué)習訓練的性能提升100倍。