從GPU到DPU看顯存到網(wǎng)卡內存的演進(jìn)

很多網(wǎng)絡(luò )相關(guān)的論文第一句通常是由于網(wǎng)卡buffer有限，所以xxxx，本文對buffer做了xxxx 但是為什么不直接在網(wǎng)卡上把Buffer變成內存呢?然而人們又會(huì )走入另一個(gè)誤區，大buffer會(huì )帶來(lái)大延遲，大延遲會(huì )帶來(lái)低吞吐。

同樣對比顯卡上的顯存，它出現了幾十年了，所以我們先來(lái)回顧一下顯存的發(fā)展史，如果顯存是一個(gè)buffer結構，也就不會(huì )誕生GPU、同樣也不會(huì )誕生CUDA了，然后就會(huì )非常清晰看到NetDAM賦予網(wǎng)卡內存的價(jià)值，等同于再造一個(gè)CUDA，當然這一次nVidia不會(huì )像GPU那么幸運，DoCA也不會(huì )那么簡(jiǎn)單的一統江湖，因為RDMA本身的生態(tài)會(huì )成為他們的絆腳石。

GPU和顯存的歷史

2D時(shí)代，固定流水線(xiàn)，顯存更多以buffer形態(tài)提供

早期的計算機通常是以紙帶的形式提供交互。陰極射線(xiàn)管(Cathode Ray Tube，CRT)的發(fā)明才帶來(lái)了早期的顯示器技術(shù)

1960~1970年有了一些實(shí)驗性質(zhì)的顯示器被發(fā)明出來(lái)，而真正的商用大概可以算到1971年的DataPoint 2200和1976年的Apple I，油管上有一段視頻[1]

可以看到這個(gè)時(shí)期的電腦還是沒(méi)有單獨的顯卡和顯存的概念的，而顯存本身的實(shí)現也只是一個(gè)移位寄存器的結構。wiki上有這段歷史[2]的介紹.

真正的第一塊顯卡可能要從IBM1981年發(fā)布的PC說(shuō)起，IBM做了一款叫做Monochrome Display Adapter[3]的設備，基于ISA總線(xiàn)，然后內涵一個(gè)Motorola 6845的顯示控制器和一個(gè)4kB的內存。顯示接口還是DB9接口

然后可以通過(guò)一個(gè)硬件實(shí)現的碼表(Code page 437)來(lái)實(shí)現數字信號到像素渲染的轉換過(guò)程，這塊卡還很有趣的支持了打印機輸出的功能，可以看到當時(shí)的I/O設計思維還是一個(gè)逐漸從紙質(zhì)介質(zhì)遷移到電子顯示的過(guò)程，只不過(guò)還是以字符為主，然后便是CRT顯示器分辨率逐漸提升，同時(shí)彩色顯像管技術(shù)的逐漸普及而帶來(lái)的I/O帶寬提升 2.png

當然伴隨著(zhù)彩色顯示器的使用，VGA接口也誕生了，三原色的各自輸出信號配合VS、HS水平、垂直掃描同步信號可以非常簡(jiǎn)單的去控制陰極射線(xiàn)管偏轉。而那時(shí)顯存的形態(tài)還是以Frame Buffer的形式存在的，通常前面還有一個(gè)SRAM配合DSP進(jìn)行模擬輸出轉換的器件(RAMDAC,Random Access Memory Digital-to-Analog Converter).

顯示技術(shù)的進(jìn)步也為彩色圖形化界面的操作系統誕生提供了必要條件，伴隨著(zhù)1985年Windows 1.0系統的發(fā)布，1987年成立的Trident和1989年成立的S3逐漸成了2D顯卡的王者。而顯存本身也逐漸出現了技術(shù)的融合，從專(zhuān)有的雙端口DRAM結構也逐漸的換成了同時(shí)期的內存顆粒，例如EDO、到后期的SDRAM、DDR

3D時(shí)代，DirectX和OpenGL使得顯卡可編程了

1995年，3Dfx發(fā)布了第一塊Voodoo顯卡，算是將整個(gè)計算機圖形業(yè)帶入了3D時(shí)代：

這也是從傳統的Frame-Buffer Memory到了一個(gè)可以計算的像素內存的轉變過(guò)程

軟硬件的融合也伴隨著(zhù)Windows95的發(fā)布出現了DirectX以及后期的OpenGL這樣的2D、3D矢量圖形渲染的API接口。而那一年nVidia也發(fā)布頗為成功的Riva 128，以及后續逐漸登上王者寶座的TNT，那一年Intel也還生產(chǎn)一個(gè)叫i740的顯卡。只是一晃20多年過(guò)去了，2022年這場(chǎng)nVidia vs ATI(AMD) vs Intel的戰爭又悄然打響了。

而這個(gè)年代伴隨著(zhù)更為靈活和可編程的像素著(zhù)色引擎和頂點(diǎn)著(zhù)色引擎，使得計算機3D圖形顯示能力快速增長(cháng)，新的算法也層出不窮。

但是這個(gè)階段的圖像處理還是有很明顯的pipeline的特征：

GP-GPU年代，CUDA誕生

對于傳統的顯存操作，下面這本書(shū)有一段講的非常清楚：

面對內存的一致性問(wèn)題，一個(gè)架構師必須要在這個(gè)時(shí)候針對實(shí)現者和用戶(hù)之間的沖突進(jìn)行最優(yōu)的權衡。而這樣的權衡便是GP-GPU的誕生。顯卡內出現了相應的指令集、ALU、Cache的架構：

而與之對應的CUDA也就順理成章的誕生了，潘多拉的墨盒就此打開(kāi)。

DPU及NetDAM網(wǎng)卡內存

回顧了整個(gè)GPU和顯存的發(fā)展史，從buffer到pipeline的處理再到靈活的基于CUDA的可編程，顯存的形態(tài)也伴隨著(zhù)GPU架構的變革產(chǎn)生了很多深遠的影響。再來(lái)看看DPU的場(chǎng)景，只是比顯卡可能更加復雜一些，因為GPU的誕生和數據密集性發(fā)生在終端，例如DisplayPort的帶寬遠高于現在很多PC的網(wǎng)絡(luò )帶寬。

而網(wǎng)絡(luò )的密集處理則最早發(fā)生于核心網(wǎng)上的網(wǎng)絡(luò )處理器(NP)，網(wǎng)絡(luò )處理器也逐漸的經(jīng)歷了前述的進(jìn)程，也曾因為I/O密集度的問(wèn)題，采用過(guò)流水線(xiàn)的架構，并且深遠的影響到了現代。同樣也因為流水線(xiàn)架構內存訪(fǎng)問(wèn)的困難出現的各種多核并行計算的NP。而這些NP玩家現在又逐漸入局到DPU的產(chǎn)業(yè)中。

而如今這個(gè)年代和1997年的GPU很像，固定的流水線(xiàn)處理，網(wǎng)卡上的內存更多的是以Buffer只讀形態(tài)交付，可編程的難題依舊存在。而RDMA和當年的OpenGL更有幾分形似，缺少更多靈活的可編程性。DPU也亟待像GTX9800那樣使用ISA和ALU打開(kāi)整個(gè)GP-GPU潘多拉魔盒的產(chǎn)品。

渣仰望nVidia這樣的大廠(chǎng)，但是并不是很看得起Mellanox，RDMA會(huì )如同當年的Glide 3D拖死3Dfx那樣給Mellanox帶來(lái)大量的麻煩，IB雖然非常賺錢(qián)但是生態(tài)并不好。有些時(shí)候生態(tài)的變革要拋棄自己的過(guò)往，平滑的走向新世界。

RDMA的API本質(zhì)上還是以?xún)却娌僮鳛橹行?，對于存內計算等?chǎng)景還缺少太多的支持 而后續雖然有DoCA，只是笑笑而已，ARM多核這樣的RTC系統對于網(wǎng)絡(luò )處理還是太重了，核太大并不是好事情，很多東西并不一定需要，而Tenstorrent則干的非常干凈：

這也是我們很多年前設計Cisco QuantumFlow處理器總結的經(jīng)驗

因此，把通用指令集引入網(wǎng)卡，在固化的pipeline和完全靈活的RTC之間尋求平衡，并且整合存內計算的能力，例如帶有Samsung PIM-HBM的ASIC便成為DPU破局的關(guān)鍵。

NetDAM深遠的意義，如同當年的GTX8800 CUDA， 或許在它出生之年你并看不懂它，因為你還在RTC和Pipeline以及RDMA怎么處理的泥潭里糾纏。

但當你看完整個(gè)GPU、顯存的發(fā)展歷程，你就會(huì )明白我說(shuō)的是對的了，唯一的選擇只是要么一起當壓路機，要不被后人慢慢碾壓。