北京大學(xué)集成電路學(xué)院/集成電路高精尖創(chuàng)新中心楊玉超教授課題組在Nature Communications在線發(fā)表了題為“Physical Unclonable In-Memory Computing for Simultaneous Protecting Private Data and Deep Learning Models”的研究論文。該工作首次實(shí)現(xiàn)了片上集成的物理不可克隆存內(nèi)計(jì)算，并提出針對邊緣端存內(nèi)計(jì)算神經(jīng)網(wǎng)絡(luò)加速計(jì)算的新型編碼方案，能夠在低硬件開銷下實(shí)現(xiàn)對神經(jīng)網(wǎng)絡(luò)的輸入、權(quán)重和結(jié)構(gòu)信息的保護(hù)。

基于電阻式隨機(jī)存取存儲(chǔ)器（RRAM）的存內(nèi)計(jì)算（CIM）已成為一種具有高度發(fā)展?jié)摿Φ募夹g(shù)，可用于加速邊緣設(shè)備上的神經(jīng)網(wǎng)絡(luò)。存內(nèi)計(jì)算可以直接在存儲(chǔ)器中執(zhí)行乘法累加操作，從而顯著減少頻繁的數(shù)據(jù)傳輸并提高能效。然而，由于RRAM的非易失性特性，使用者可以在計(jì)算過程中從存內(nèi)計(jì)算內(nèi)核中提取存儲(chǔ)的神經(jīng)網(wǎng)絡(luò)權(quán)重。物理不可克隆函數(shù)（PUF）是一種利用每個(gè)實(shí)體的固有隨機(jī)性為每個(gè)實(shí)體提供唯一信息的器件。過去的工作曾提出，PUF能夠用于保護(hù)神經(jīng)網(wǎng)絡(luò)的知識(shí)產(chǎn)權(quán)，但是其硬件開銷仍然較高。目前仍缺乏有效實(shí)施PUF和存內(nèi)計(jì)算核心集成的方法，以提供有保護(hù)且高效的人工智能推理。

為了應(yīng)對這些重要問題，楊玉超團(tuán)隊(duì)提出了“RePACK”（重新打包）技術(shù)，這是一種基于RRAM的存內(nèi)計(jì)算的三重?cái)?shù)據(jù)保護(hù)方案，可保護(hù)神經(jīng)網(wǎng)絡(luò)的輸入、權(quán)重和結(jié)構(gòu)信息。RePACK采用新穎的二分排序編碼方案，通過完全片上物理不可克隆功能重整數(shù)據(jù)。實(shí)驗(yàn)結(jié)果表明，RePACK在128列憶阻器存內(nèi)計(jì)算內(nèi)核的復(fù)原復(fù)雜性增加到5.77×1075的有效性，而不會(huì)增加額外的時(shí)鐘周期。

圖1 RePACK系統(tǒng)架構(gòu)圖，其中PUF陣列通過RePACK機(jī)制直接作用于存內(nèi)計(jì)算陣列

研究團(tuán)隊(duì)基于實(shí)際流片的RRAM陣列實(shí)現(xiàn)了具有高穩(wěn)定性和獨(dú)特性的片上PUF，并演示了物理不可克隆存內(nèi)計(jì)算。本研究中的1T1R PUF在108個(gè)讀取周期后達(dá)到<6.7810-6位誤碼率 （BER）（144K位零誤差），在壓力測試中表現(xiàn)出高穩(wěn)定性。生成的PUF響應(yīng)成功通過NIST測試。全面的可靠性測試證明了PUF在不同VDD、重復(fù)讀取、保持特性、可變溫度和長時(shí)間烘烤下的穩(wěn)定性。

圖2 RRAM陣列構(gòu)建物理不可克隆函數(shù)過程，編程方法采用了“兩步編程”策略

研究團(tuán)隊(duì)進(jìn)一步在40nm多核RRAM存內(nèi)計(jì)算陣列上實(shí)現(xiàn)和評估了基于RePACK的計(jì)算系統(tǒng)。這項(xiàng)工作代表了為邊緣計(jì)算和分布式學(xué)習(xí)開發(fā)穩(wěn)健、高效且保護(hù)知識(shí)產(chǎn)權(quán)的神經(jīng)網(wǎng)絡(luò)加速器的重要一步。它可以作為在聯(lián)邦學(xué)習(xí)或其他分布式學(xué)習(xí)系統(tǒng)中開發(fā)邊緣設(shè)備的硬件基礎(chǔ)設(shè)施。通過在保持計(jì)算效率的同時(shí)幫助保護(hù)知識(shí)產(chǎn)權(quán)，RePACK為重視隱私保護(hù)的實(shí)際應(yīng)用程序提供了一種有潛力的解決方案。

圖3 實(shí)際部署展示出良好效果

北京大學(xué)集成電路學(xué)院博士生岳文碩為第一作者，楊玉超、北京大學(xué)集成電路學(xué)院助理教授燕博南與河北大學(xué)教授閆小兵為通訊作者。研究工作得到了國家重點(diǎn)研發(fā)計(jì)劃、國家杰出青年基金、后摩爾重大研究計(jì)劃、北京市自然科學(xué)基金、111計(jì)劃、集成電路高精尖創(chuàng)新中心等項(xiàng)目的資助。