9月8日,隨著深度神經(jīng)網(wǎng)絡(luò)在諸多領(lǐng)域取得重要性突破,其對數(shù)據(jù)和算力的巨大需求也日益凸顯。尤其是在物聯(lián)網(wǎng)(IoT)和邊緣設(shè)備中,傳統(tǒng)神經(jīng)網(wǎng)絡(luò)難以在有限樣本下快速適應(yīng)新任務(wù),而重新訓(xùn)練模型又需要高昂的計(jì)算和能耗成本。相比之下,人腦能夠通過極少樣本(甚至單樣本)進(jìn)行快速學(xué)習(xí)與泛化,與現(xiàn)有的計(jì)算模式存在顯著的差別,這激發(fā)了研究者對類腦高效學(xué)習(xí)算法的探索。記憶增強(qiáng)神經(jīng)網(wǎng)絡(luò)(MANNs)通過引入關(guān)聯(lián)存儲器機(jī)制,有望高效解決這一挑戰(zhàn),但在傳統(tǒng)馮·諾依曼架構(gòu)中,數(shù)據(jù)搜索與距離計(jì)算的大量數(shù)據(jù)遷移卻極大地限制了計(jì)算速度和能量效率。
近日,清華大學(xué)電子系楊華中教授團(tuán)隊(duì)的李學(xué)清副教授與新加坡國立大學(xué)的龔蕭副教授團(tuán)隊(duì)合作,首次提出并通過實(shí)驗(yàn)驗(yàn)證了一種基于反轉(zhuǎn)型鐵電電容存儲器(FCM)的電荷域2FCM內(nèi)容尋址存儲器(CAM),可支持記憶增強(qiáng)神經(jīng)網(wǎng)絡(luò)的高效加速。該設(shè)計(jì)開創(chuàng)性地采用差分鐵電電容來存儲數(shù)據(jù),通過電荷域操作可直接輸出與漢明距離成線性關(guān)系的穩(wěn)定電壓信號,相比傳統(tǒng)非易失CAM,具有顯著的輸出線性度高、抗干擾能力強(qiáng)、搜索能效高、集成密度高等一系列優(yōu)勢。
圖1.基于FCM的內(nèi)容尋址存儲器概覽
研究團(tuán)隊(duì)在絕緣體上硅(SOI)平臺上成功制備了16×16 2FCM CAM陣列,并演示了16通道并行的16位漢明距離計(jì)算。實(shí)驗(yàn)測量結(jié)果證明,16位漢明距離計(jì)算輸出的線性度高達(dá)R2=0.9983,且誤差僅0.126LSB,這極大提高了計(jì)算的可靠性,并簡化了感應(yīng)電路設(shè)計(jì)。2FCM CAM在Omniglot數(shù)據(jù)集上的單次學(xué)習(xí)任務(wù)中實(shí)現(xiàn)了97.5%的識別準(zhǔn)確率,且在45nm工藝節(jié)點(diǎn)下,單元面積僅為0.024μm2,單次搜索操作的能耗低至0.005 fJ/bit,顯著優(yōu)于已有先進(jìn)的電流域CAM,在搜索能效方面實(shí)現(xiàn)了40倍以上的提升。這些指標(biāo)凸顯了2FCM CAM在低功耗、高可靠、高密度等方面的優(yōu)勢,為未來低功耗、高精度、高密度的存內(nèi)搜索應(yīng)用奠定了堅(jiān)實(shí)基礎(chǔ)。尤其是在邊緣計(jì)算、物聯(lián)網(wǎng)、生物序列分析、實(shí)時圖像識別等場景中,2FCM CAM有望成為推動下一代智能硬件的關(guān)鍵技術(shù)。
圖2.研究團(tuán)隊(duì)制備的16×16 2FCM CAM陣列和實(shí)測結(jié)果
研究成果以“面向高可靠高能效單次學(xué)習(xí)、基于鐵電電容存儲器的電荷域內(nèi)容尋址存儲器”(Charge-domain content addressable memory based on ferroelectric capacitive memory for reliable and energy-efficient one-shot learning)為題,于8月28日發(fā)表于《自然·通訊》(Nature Communications)。
新加坡國立大學(xué)電氣與計(jì)算機(jī)工程系的周作普博士和清華大學(xué)電子系2021級博士生鐘宏濤為論文共同第一作者,新加坡國立大學(xué)電氣與計(jì)算機(jī)工程系副教授龔蕭與清華大學(xué)電子系副教授李學(xué)清為論文共同通訊作者。研究得到國家自然科學(xué)基金等的支持。