近日，三星電子在頂級(jí)學(xué)術(shù)期刊 Nature 上發(fā)表了全球首個(gè)基于 MRAM（磁性隨機(jī)存儲(chǔ)器）的存內(nèi)計(jì)算研究。

存內(nèi)計(jì)算由于無(wú)需數(shù)據(jù)在存儲(chǔ)器和處理器間移動(dòng)，大大降低了 AI 計(jì)算的功耗，被視作邊緣 AI 計(jì)算的一項(xiàng)前沿研究。雖然 MRAM 存儲(chǔ)器件具備耐用性、可大規(guī)模量產(chǎn)等優(yōu)勢(shì)，但其小電阻的特性阻礙了這類存儲(chǔ)器被用于存內(nèi)計(jì)算。

本次，三星電子的研究團(tuán)隊(duì)通過(guò)構(gòu)建新的 MRAM 陣列結(jié)構(gòu)，用基于 28nm CMOS 工藝的 MRAM 陣列芯片運(yùn)行了手寫數(shù)字識(shí)別和人臉檢測(cè)等 AI 算法，準(zhǔn)確率分別為 98% 和 93%。

研究擴(kuò)展存內(nèi)計(jì)算類型，填補(bǔ) MRAM 空白

在傳統(tǒng)的計(jì)算機(jī)架構(gòu)中，數(shù)據(jù)需要從內(nèi)存移動(dòng)到處理單元，然后將中間結(jié)果存儲(chǔ)回內(nèi)存。但這種無(wú)謂的信息傳輸不僅增加了計(jì)算延遲，也提升了相關(guān)功耗。

根據(jù)臺(tái)積電此前對(duì)存內(nèi)計(jì)算的研究，數(shù)據(jù)移動(dòng)所消耗的能量甚至大于計(jì)算的能量消耗。因此，在內(nèi)存中同時(shí)執(zhí)行數(shù)據(jù)存儲(chǔ)和計(jì)算的存內(nèi)計(jì)算成為了行業(yè)與學(xué)術(shù)機(jī)構(gòu)研究的焦點(diǎn)。

此前的研究中，非易失性的 RRAM（電阻式隨機(jī)存取存儲(chǔ)器）和 PRAM（相變隨機(jī)存取存儲(chǔ)器）是存內(nèi)計(jì)算最常用的兩類存儲(chǔ)器。相比之下，盡管 MRAM 器件在操作速度、耐用性和量產(chǎn)等方面具有優(yōu)勢(shì)，但其較低的電阻使 MRAM 存儲(chǔ)器在傳統(tǒng)的存內(nèi)計(jì)算架構(gòu)中無(wú)法達(dá)到低功耗要求。

在本篇論文中，三星電子的研究人員構(gòu)建了一種基于 MRAM 的新存內(nèi)計(jì)算架構(gòu)，填補(bǔ)了這種空白。論文特別寫道，該研究并非和基于其他存儲(chǔ)器的存內(nèi)計(jì)算架構(gòu)競(jìng)爭(zhēng)。到目前為止，沒有一種存儲(chǔ)器類型在電子產(chǎn)品中占據(jù)絕對(duì)主導(dǎo)，因?yàn)椴煌愋偷拇鎯?chǔ)器各有自身的優(yōu)點(diǎn)和缺點(diǎn)。因此，基于不同存儲(chǔ)器的存內(nèi)計(jì)算也可能發(fā)展成不同的架構(gòu)。

從這個(gè)角度看，三星電子通過(guò)填補(bǔ)基于 MRAM 存儲(chǔ)器的存內(nèi)計(jì)算架構(gòu)空白，有助于存內(nèi)計(jì)算發(fā)展。

▲ 三星研究團(tuán)隊(duì)：共同通訊作者 SAIT（三星高級(jí)技術(shù)研究所）院士、哈佛大學(xué)教授 Donhee Ham（左一）；論文一作 SAIT 研究員 Seungchul Jung（左二）；共同通訊作者 SAIT 技術(shù)副總裁 Sang Joon Kim（左三）

基于 28nm CMOS 工藝，準(zhǔn)確檢測(cè) 1851 張人臉

三星電子構(gòu)建了一個(gè) 64×64 的 MRAM 陣列，其外圍電路通過(guò) 28nm CMOS 工藝進(jìn)行了集成。

具體結(jié)構(gòu)上來(lái)說(shuō)，MRAM 陣列在寫 / 讀（W / R）電子元件和底部的 TDC 讀出電子元件之間，輸入數(shù)據(jù)控制器（IN）位于陣列左側(cè)。

為了彌補(bǔ) MRAM 小電阻的問(wèn)題，三星電子引入了一種新的位單元（陣列行列交叉處的元素，bit-cell），每個(gè)位單元組合成兩條路徑，每條路徑則由一個(gè) MTJ（磁性隧道結(jié)）和一個(gè) FET（場(chǎng)效應(yīng)管）開關(guān)串聯(lián)組成。

▲ 芯片布局與 MRAM 陣列排布（圖片來(lái)源：Nature）

研究人員將每列中這些新的位單元串聯(lián)起來(lái)，每個(gè)位單元的輸出電阻相加便得到了列電阻 R。通過(guò)新的結(jié)構(gòu)設(shè)計(jì)，列電阻 R 取代了傳統(tǒng)（存內(nèi)計(jì)算）結(jié)構(gòu)中基于基爾霍夫定律的列電流總和，成為了列輸出，解決了 MRAM 器件電阻較小的問(wèn)題。

簡(jiǎn)單來(lái)說(shuō)，就是三星電子開發(fā)了一種 MRAM 陣列芯片，用新的“電阻總和”內(nèi)存計(jì)算架構(gòu)取代了標(biāo)準(zhǔn)的“電流和”內(nèi)存計(jì)算架構(gòu)，從而解決了單個(gè) MRAM 器件的小電阻問(wèn)題。

為了將這種新的 MRAM 陣列用于 AI 計(jì)算，研究人員采用了二值神經(jīng)網(wǎng)絡(luò)（BNN）算法。這種算法的精度可以以網(wǎng)絡(luò)大小為代價(jià)，將每個(gè)實(shí)值權(quán)值表示為二值化函數(shù)，或以計(jì)算速度為代價(jià)將每個(gè)實(shí)值輸入數(shù)據(jù)表示為多個(gè)二值化函數(shù)序列，以提高 BNN 算法的精度。

該研究中，三星電子采用了后一種方式，將每個(gè)輸入數(shù)據(jù)擴(kuò)展為 8 位編碼，以抑制噪聲。之后，研究人員用兩層 BNN 網(wǎng)絡(luò)以對(duì) MNIST 數(shù)據(jù)集進(jìn)行分類。

MNIST 數(shù)據(jù)集來(lái)自美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST），訓(xùn)練集和測(cè)試集均由不同的手寫數(shù)字組成，數(shù)據(jù)集和測(cè)試集 50% 的手寫數(shù)字來(lái)自高中生，另外 50% 來(lái)自美國(guó)人口普查局的工作人員。

▲ 不同的手寫數(shù)字 7（圖片來(lái)源：CSDN）

研究人員用 MRAM 陣列執(zhí)行了對(duì) 1 萬(wàn)個(gè)手寫數(shù)字圖像的分類，并重復(fù)了三次，得到了 93.23±0.05% 的準(zhǔn)確率。測(cè)試后，研究人員又通過(guò) VGG-8 神經(jīng)網(wǎng)絡(luò)對(duì) 1 萬(wàn)個(gè)手寫數(shù)字圖像進(jìn)行了分類，其準(zhǔn)確率高達(dá) 98.86±0.06%。

除了手寫數(shù)字分類，三星電子還用 4 個(gè) MRAM 陣列芯片運(yùn)行了人臉檢測(cè)算法。在這一步，MRAM 陣列芯片并沒有對(duì)場(chǎng)景中的所有對(duì)象進(jìn)行人臉認(rèn)證，而是先檢測(cè)場(chǎng)景中是否存在人臉，確認(rèn)存在后再激活更高功率的人臉認(rèn)證算法。

通過(guò)這種方法，MRAM 陣列芯片從 2000 個(gè)無(wú)遮罩人臉場(chǎng)景中檢測(cè)到 1851 張人臉，準(zhǔn)確率為 92.5%；從 500 個(gè)遮罩人臉場(chǎng)景中檢測(cè)到 483 張人臉，準(zhǔn)確率為 96.6%，總體準(zhǔn)確率為 93.4%。此外，MRAM 陣列芯片可以和相機(jī)結(jié)合實(shí)時(shí)檢測(cè)人臉。

▲ 4 個(gè) MRAM 陣列芯片與相機(jī)相連實(shí)時(shí)人臉檢測(cè)（圖片來(lái)源：Nature）

集成多種器件面臨挑戰(zhàn)，未來(lái)或可用于生物神經(jīng)元網(wǎng)絡(luò)

對(duì)于這項(xiàng)研究，研究人員寫道，MRAM 陣列運(yùn)行存內(nèi)計(jì)算的一個(gè)重要挑戰(zhàn)是構(gòu)建 AI SoC（片上系統(tǒng)），將許多陣列和數(shù)據(jù)轉(zhuǎn)換器、數(shù)字電子設(shè)備進(jìn)行集成。

研究人員還強(qiáng)調(diào)，寬泛來(lái)說(shuō)，內(nèi)存陣列不僅可以用來(lái)運(yùn)算神經(jīng)網(wǎng)絡(luò)算法，也可以作為潛在的生物神經(jīng)元網(wǎng)絡(luò)載體。

2021 年 9 月，三星電子和哈佛聯(lián)合在 Nature 子刊 Nature Electronics 上發(fā)表了名為《Neuromorphic electronics based on copying and pasting the brain（基于復(fù)制和粘貼大腦的神經(jīng)形態(tài)電子學(xué)）》的論文，提出了一種將大腦神經(jīng)元連接圖（neuronal wiring map）“復(fù)制、粘貼”到高密度 3 維存儲(chǔ)網(wǎng)絡(luò)上的可能。

▲ 三星此前“復(fù)制、粘貼”大腦的研究（圖片來(lái)源：Nature）

MRAM 陣列研究的第一作者 Seungchul Jung 稱，存內(nèi)計(jì)算與人類大腦的計(jì)算類似，因?yàn)槿祟惖挠?jì)算也發(fā)生在記憶或突觸網(wǎng)絡(luò)中。雖然 MRAM 陣列當(dāng)前的計(jì)算目的并非模仿大腦，但這種固態(tài)存儲(chǔ)網(wǎng)絡(luò)將來(lái)可能會(huì)被用作模擬大腦突觸的平臺(tái)。

結(jié)語(yǔ)：新研究或?qū)⒇S富三星存內(nèi)計(jì)算產(chǎn)品

近年來(lái)，存內(nèi)計(jì)算已逐漸成為產(chǎn)業(yè)界和學(xué)術(shù)界的公識(shí)，相關(guān)論文反復(fù)出現(xiàn)在 ISSCC 和 IEDM 等電子領(lǐng)域的頂級(jí)會(huì)議中，臺(tái)積電等半導(dǎo)體頭部廠商也都在布局和探索。

三星電子作為全球存儲(chǔ)龍頭，更是一直在關(guān)注存內(nèi)計(jì)算技術(shù)。去年 2 月，三星電子便公布了其首款集成了 AI 計(jì)算能力的高帶寬內(nèi)存（HBM），可以節(jié)省 70% 以上的能耗并提供 2 倍以上的系統(tǒng)性能。本次基于 MRAM 的存內(nèi)計(jì)算研究豐富了三星在存內(nèi)計(jì)算領(lǐng)域的布局，未來(lái)或許能夠看到更多類型的存內(nèi)計(jì)算產(chǎn)品出現(xiàn)在市場(chǎng)上。