達(dá)摩院存算一體芯片實(shí)拍圖。達(dá)摩院供圖
12月3日，阿里巴巴達(dá)摩院（以下簡稱達(dá)摩院）宣布，該院已成功研發(fā)存算一體人工智能（AI）芯片。達(dá)摩院介紹，該存算一體芯片集成了多項(xiàng)創(chuàng)新技術(shù)，是全球首款使用“混合鍵合3D堆疊技術(shù)”實(shí)現(xiàn)存算一體的芯片。這一新型架構(gòu)芯片的誕生，將有望助力存算一體技術(shù)從概念走向落地。
在摩爾定律逐漸放緩的背景下，存算一體被認(rèn)為是解決計(jì)算機(jī)性能瓶頸的關(guān)鍵技術(shù)之一。形象地說，存算一體芯片近似人腦，通過將數(shù)據(jù)存儲單元和計(jì)算單元融合，可大幅減少數(shù)據(jù)的傳輸和搬運(yùn)，從而能極大地提高計(jì)算并行度和能效。然而，盡管存算一體技術(shù)早在20世紀(jì)90年代就被提出，但受限于技術(shù)的復(fù)雜度、高昂的設(shè)計(jì)成本以及應(yīng)用場景的匱乏，過去幾十年，業(yè)界對存算一體芯片的研究進(jìn)展緩慢。
據(jù)介紹，達(dá)摩院存算一體芯片內(nèi)存單元采用異質(zhì)集成嵌入式DRAM（SeDRAM），擁有超大帶寬、超大容量等特點(diǎn)；計(jì)算單元方面，達(dá)摩院研發(fā)設(shè)計(jì)了流式的定制化加速器架構(gòu)，對推薦系統(tǒng)進(jìn)行“端到端”的加速，包括匹配、粗排序、神經(jīng)網(wǎng)絡(luò)計(jì)算、細(xì)排序等任務(wù)。
“存算一體是顛覆性的芯片技術(shù)，它天然擁有高性能、高帶寬和高能效的優(yōu)勢，可以從底層架構(gòu)上解決后摩爾定律時(shí)代的芯片性能和能耗問題?！边_(dá)摩院計(jì)算技術(shù)實(shí)驗(yàn)室科學(xué)家鄭宏忠介紹說，達(dá)摩院存算一體芯片可滿足人工智能等場景對高帶寬、高容量內(nèi)存和極致算力的需求；在特定AI場景（如推薦系統(tǒng)應(yīng)用）中，該芯片性能提升10倍以上，能效比提升高達(dá)300倍。
過去70年，計(jì)算機(jī)一直遵循馮·諾依曼架構(gòu)設(shè)計(jì)，運(yùn)行時(shí)數(shù)據(jù)需要在處理器和內(nèi)存之間來回傳輸。隨著時(shí)代發(fā)展，這一工作模式面臨較大挑戰(zhàn)：在人工智能等高并發(fā)計(jì)算場景中，數(shù)據(jù)來回傳輸會(huì)產(chǎn)生巨大的功耗。目前，內(nèi)存系統(tǒng)的性能提升速度大幅落后于處理器的性能提升速度，有限的內(nèi)存帶寬無法保證數(shù)據(jù)高速傳輸。
達(dá)摩院該技術(shù)的研究成果已被芯片領(lǐng)域頂級會(huì)議ISSCC 2022收錄，這一新型架構(gòu)芯片未來有望廣泛應(yīng)用于VR/AR、無人駕駛、天文數(shù)據(jù)計(jì)算、遙感影像數(shù)據(jù)分析等場景。
