天眼查顯示,珠海億智電子科技有限公司近日取得一項(xiàng)名為“深度學(xué)習(xí)模型的定點(diǎn)量化方法及裝置”的專利,授權(quán)公告號(hào)為CN113408696B,授權(quán)公告日為2024年7月2日,申請(qǐng)日為2021年5月17日。
本發(fā)明公開(kāi)了深度學(xué)習(xí)模型的定點(diǎn)量化方法及裝置,該方法包括以下步驟:輸入校準(zhǔn)數(shù)據(jù)至目標(biāo)模型,按順序?qū)⒛繕?biāo)模型的模型參數(shù)和激活值作為量化對(duì)象,執(zhí)行以下步驟:輸入校準(zhǔn)集數(shù)據(jù),按層提取目標(biāo)模型的量化對(duì)象,獲取量化對(duì)象的分布直方圖,通過(guò)自適應(yīng)KL散度方程對(duì)量化對(duì)象的分布直方圖進(jìn)行縮放,并基于預(yù)設(shè)量化位數(shù)獲取不同的小數(shù)點(diǎn)位置對(duì)應(yīng)的KL散度值,比較得出量化對(duì)象的第一量化結(jié)果。本發(fā)明彌補(bǔ)了KL散度算法僅關(guān)注概率的缺陷,優(yōu)化量化結(jié)果,在保證量化后的模型一定的精度的情況下,能大幅度提升量化的速度,提高了量化的效率,節(jié)省了時(shí)間。