麻省理工：新 AI 芯片減少高達 95% 的能耗

神經(jīng)網(wǎng)絡(luò )是強大的東西，但需要大量的能量。麻省理工學(xué)院的工程師現在開(kāi)發(fā)了一種新型芯片，可以將神經(jīng)網(wǎng)絡(luò )的功耗降低95％，從而可以讓它們在電池供電的移動(dòng)設備上運行。

智能手機正在變得真正聰明，提供更多的人工智能服務(wù)，如數字助理和實(shí)時(shí)翻譯。但通常情況下，處理這些服務(wù)數據的神經(jīng)網(wǎng)絡(luò )都在云計算，智能手機的數據來(lái)回傳送。

這并不理想，因為它需要大量的通信帶寬，并且意味著(zhù)潛在的敏感數據正在被傳輸并存儲在用戶(hù)控制之外的服務(wù)器上。但是，GPU神經(jīng)網(wǎng)絡(luò )運行需要巨大能量，這使得在有限的電池電量下運行的設備中實(shí)現它們是不切實(shí)際的。

麻省理工學(xué)院的工程師現在設計了一款芯片，通過(guò)大幅減少在芯片內存和處理器之間來(lái)回傳輸數據的需求，可以將功耗降低高達95％。

神經(jīng)網(wǎng)絡(luò )由成千上萬(wàn)層互相連接的人造神經(jīng)元組成。每個(gè)神經(jīng)元從它下面的層中的多個(gè)神經(jīng)元接收輸入，并且如果組合的輸入通過(guò)某個(gè)閾值，則它將輸出發(fā)送到其上的多個(gè)神經(jīng)元。神經(jīng)元之間連接的強度由訓練期間設定的權重決定。

這意味著(zhù)對于每個(gè)神經(jīng)元，芯片必須檢索特定連接的輸入數據以及來(lái)自存儲器的連接權重，將它們相乘，存儲結果，然后為每個(gè)輸入重復該過(guò)程。這需要大量的數據移動(dòng)，耗費大量的能源。

新的MIT芯片消除了這種情況，而是使用模擬電路在存儲器內并行計算所有輸入。這大大減少了需要推動(dòng)的數據量，并節省了大量的能源。

該方法要求連接的權重是二進(jìn)制的，而不是一個(gè)范圍的值，但以前的理論工作表明這不會(huì )顯著(zhù)影響準確性，研究人員發(fā)現該芯片的結果一般在傳統的非結果的2％到3％運行在標準計算機上的二進(jìn)制神經(jīng)網(wǎng)絡(luò )。

這并不是研究人員首次創(chuàng )建能夠減少神經(jīng)網(wǎng)絡(luò )功耗的芯片，但這是該方法首次用于運行強大的基于圖像的AI應用的卷積神經(jīng)網(wǎng)絡(luò )。

IBM的人工智能副總裁Dario Gil在一份聲明中表示，“結果顯示，能量有效實(shí)現與存儲陣列卷積操作的令人印象深刻的規格”。

“它肯定會(huì )為將來(lái)在物聯(lián)網(wǎng)（物聯(lián)網(wǎng)）中應用更復雜的卷積神經(jīng)網(wǎng)絡(luò )進(jìn)行圖像和視頻分類(lèi)開(kāi)辟可能性?！?/p>

不過(guò)，這不僅僅是研究小組的工作。將智能手機，家用電器和各種物聯(lián)網(wǎng)設備等智能手機智能化的渴望正在推動(dòng)硅谷的誰(shuí)將成為低功耗AI芯片。

蘋(píng)果公司已經(jīng)將其神經(jīng)引擎整合到iPhone X中，為面部識別技術(shù)提供動(dòng)力，亞馬遜傳聞將為下一代Echo數字助理開(kāi)發(fā)自己的定制AI芯片。

大芯片公司也越來(lái)越傾向于支持像機器學(xué)習這樣的先進(jìn)功能，這迫使他們使他們的設備變得更節能。今年早些時(shí)候，ARM發(fā)布了兩款新芯片：Arm Machine Learning處理器，針對從平移到面部識別的一般AI任務(wù)，以及用于檢測圖像中的臉部等物體的手臂對象檢測處理器。

高通公司最新的移動(dòng)芯片Snapdragon 845采用GPU，專(zhuān)注于人工智能。該公司還發(fā)布了針對無(wú)人機，機器人和工業(yè)設備的Snapdragon 820E。

更進(jìn)一步，IBM和英特爾正在開(kāi)發(fā)神經(jīng)晶體芯片，其架構受人類(lèi)大腦和其令人難以置信的能源效率的啟發(fā)。這在理論上可以讓IBM的TrueNorth和Intel的Loihi在傳統芯片的一小部分功率上運行強大的機器學(xué)習，盡管在現階段它們仍然是高度實(shí)驗性的。

讓這些芯片運行神經(jīng)網(wǎng)絡(luò )與在云服務(wù)中發(fā)現的神經(jīng)網(wǎng)絡(luò )一樣強大，而不會(huì )快速燒毀電池，這將是一個(gè)巨大的挑戰。但是按照目前的創(chuàng )新步伐，看起來(lái)好像不會(huì )太長(cháng)，然后才會(huì )在口袋里包裝一些嚴肅的AI功能。