摘要：在大數(shù)據(jù)時代，圖被用于各類領域表示具有復雜聯(lián)系的數(shù)據(jù).圖估算應用被廣泛用于各類領域，以挖掘圖數(shù)據(jù)中潛在的價值.圖估算應用特有的不規(guī)則執(zhí)行行為，引起了不規(guī)則負載、密集讀改寫更新操作、不規(guī)則訪存和不規(guī)則通訊等挑戰(zhàn).現(xiàn)有通用構(gòu)架未能有效地應對上述挑戰(zhàn).為了克服加速圖估算應用面臨的挑戰(zhàn)加速度計算，大量的圖估算硬件加速構(gòu)架設計被提出.它們?yōu)閳D估算應用訂制了專用的估算流水線、訪存子系統(tǒng)、存儲子系統(tǒng)和通訊子系統(tǒng).得益于這種訂制的硬件設計，圖估算加速構(gòu)架相比于傳統(tǒng)的通用處理器構(gòu)架，在性能和能效上均取得了明顯的提高.為了讓相關的研究學者深入了解圖估算硬件加速構(gòu)架，首先基于計算機的金字塔組織結(jié)構(gòu)，從上到下對現(xiàn)有工作進行分類和總結(jié)，并以多個完整構(gòu)架實例剖析應用于不同層次的優(yōu)化技術之間的關系.接著以圖神經(jīng)網(wǎng)路加速構(gòu)架的具體案例討論新興圖估算應用的加速構(gòu)架設計.最后對該領域的前沿研究方向進行了總結(jié)加速度計算，并放眼于未來闡述圖估算加速構(gòu)架的發(fā)展趨勢.
大數(shù)據(jù)時代,越來越多的數(shù)據(jù)采用圖結(jié)構(gòu)進行表示．圖是一種才能抒發(fā)對象之間復雜關系的數(shù)據(jù)儲存方法,被廣泛用于表示人際關系、分子拓撲結(jié)構(gòu)、大腦神經(jīng)元鏈接等．圖數(shù)據(jù)中蘊涵著豐富的信息,圖估算應用是一種挖掘圖數(shù)據(jù)中蘊涵價值的重要應用．為了快速處理圖數(shù)據(jù)和應對不斷下降的圖數(shù)據(jù),圖估算應用被廣泛布署于各大數(shù)據(jù)中心,成為數(shù)據(jù)中心的典型應用．
始于圖的無結(jié)構(gòu)特點,圖估算應用在現(xiàn)有通用構(gòu)架上難以被高效執(zhí)行．現(xiàn)實生活中的圖沒有固定的結(jié)構(gòu),節(jié)點的出邊分布極其不均勻,節(jié)點與節(jié)點之間的聯(lián)接極為隨機．因為圖估算應用的執(zhí)行行為依賴于圖數(shù)據(jù),圖數(shù)據(jù)的以上特點造成圖估算應用的執(zhí)行行為極其不規(guī)則．這些不規(guī)則的執(zhí)行行為造成現(xiàn)有的通用構(gòu)架在估算、訪存和通訊３個方面都面臨巨大挑戰(zhàn)．在估算方面,估算單元面臨負載不均衡、密集讀改寫更新等挑戰(zhàn),造成基于CPU和GPU的圖估算軟件框架的性能嚴重不足．在訪存方面,不規(guī)則的細細度訪存造成CPU的L２和L３Cache的命中率極低[１],借助效率低下,同時也造成了GPU的SIMT()執(zhí)行模型遇見了大量的訪存歧義(Ｇgence)．在多節(jié)點估算、存儲系統(tǒng)方面,不規(guī)則的細細度通訊,造成了大量無效通訊和通訊帶寬浪費．
為了應對圖估算應用帶來的挑戰(zhàn),為圖估算訂制專用的加速構(gòu)架是一種高效的解決方案．它還能為數(shù)據(jù)中心帶來數(shù)百倍的性能提高和數(shù)千倍的煤耗提高．圖估算加速器的設計理念是按照圖估算應用的操作特點改建硬件數(shù)據(jù)通路,量身定做估算流水線、內(nèi)存子系統(tǒng)、存儲子系統(tǒng)和通訊子系統(tǒng),因而為圖估算應用的操作進行固化的硬件抒發(fā)．近些年來,大量的圖估算加速構(gòu)架設計被提出,從不同的角度采取多樣的方式解決圖估算應用的各項挑戰(zhàn)。
為了讓相關的研究人員對圖估算加速構(gòu)架的研究現(xiàn)況和發(fā)展方向有深入的了解,本文從現(xiàn)有工做出發(fā)闡述圖估算加速構(gòu)架設計面臨的關鍵問題和主要解決技巧．值得關注的是,本文還注重闡述了一種新興的圖估算應用,即圖神經(jīng)網(wǎng)路．該新興圖估算應用同時具有傳統(tǒng)圖估算應用和傳統(tǒng)神經(jīng)網(wǎng)路應用的執(zhí)行特點,而且還具有與傳統(tǒng)應用不同的估算和訪存特點．比如,因為節(jié)點的屬性是高維數(shù)據(jù),所以節(jié)點的屬性訪問是粗細度的不規(guī)則訪問,與傳統(tǒng)圖估算的細細度不規(guī)則訪問不同．除此之外,本文還對圖估算加速構(gòu)架的前沿研究問題進行了歸納和總結(jié),并放眼于未來闡述其發(fā)展趨勢．本文的工作具有一定的指導作用,讀者才能快速明白傳統(tǒng)圖估算應用加速構(gòu)架和新興圖神經(jīng)網(wǎng)路加速構(gòu)架的設計要點、關鍵問題及對應的解決方案,了解目前圖估算加速構(gòu)架設計的趨勢和機遇,而且將相應的概念和技術應用到未來的圖估算加速構(gòu)架的設計上現(xiàn)有督查文獻[２]是基于硬件平臺對現(xiàn)有的圖估算加速工作進行分類,囊括了現(xiàn)場可編程門陣列(,FPGA)、３DＧ、特定應用集成電路(,ASIC)、GPU,目的是對每位工作的設計思想進行介紹．文獻[３]基于圖估算加速的主要技術(預處理、并行圖估算和運行時調(diào)度)對現(xiàn)有工作分類．本文的分類方式與前人不同．本文從圖估算加速構(gòu)架的設計角度出發(fā),基于計算機的金字塔組織結(jié)構(gòu)[４],從上到下,按照圖估算應用帶來的挑戰(zhàn)、衍生的問題和解決方案對現(xiàn)有工作進行分類和總結(jié),并為前人的督查工作補充了許多新的先進設計,以及加入了新興的圖神經(jīng)網(wǎng)路加速構(gòu)架的研究工作．除此之外,本文也從圖估算加速構(gòu)架的測試評估與全棧設計角度出發(fā),對未來的研究方向進行了展望．Fig．１圖１CSR格式
本文的主要貢獻包括３個方面:
１)以加速圖估算應用遇見的關鍵挑戰(zhàn)為導向,以解決方案為核心,基于計算機金字塔組織結(jié)構(gòu),從上到下,逐層對圖估算加速構(gòu)架的研究現(xiàn)況進行了系統(tǒng)的歸納和總結(jié),并以具體事例剖析了不同層次優(yōu)化技術之間的關系．
２)以具體圖神經(jīng)網(wǎng)路加速構(gòu)架設計作為反例,側(cè)重介紹和總結(jié)了新興圖估算應用(圖神經(jīng)網(wǎng)路)與其特定的加速器設計．繼神經(jīng)網(wǎng)路加速構(gòu)架以后,圖神經(jīng)網(wǎng)路加速器必定掀起新的研究和產(chǎn)業(yè)化風潮．
３)從圖估算加速構(gòu)架評估與設計的角度對圖估算加速構(gòu)架進行了展望,強調(diào)了全棧式設計方案是實現(xiàn)產(chǎn)業(yè)化應用的關鍵,并探討了基于RISCＧV生態(tài)環(huán)境,有助于快速且低成本地實現(xiàn)圖估算加速構(gòu)架的設計方案
專知方便查看
方便下載，請關注專知公眾號（點擊上方紅色專知關注）
專知，專業(yè)可信的人工智能知識分發(fā)，讓認知協(xié)作更快更好！歡迎注冊登入專知，獲取5000+AI主題干貨知識資料！
歡迎陌陌掃一掃加入專知人工智能知識星球群，獲取最新AI專業(yè)干貨知識教程資料和與專家交流咨詢！