5月13日,由中國半導體行業(yè)協(xié)會集成電路設(shè)計分會等主辦的第十五屆松山湖中國IC創(chuàng)新高峰論壇成功舉辦,作為國內(nèi)最具影響力的中國IC新品集中發(fā)布平臺之一,本屆論壇以“面向‘具身智慧機器人’的創(chuàng)新IC新品推介”為主題,愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉受邀出席,不僅帶來最新算力產(chǎn)品AX8850,也對當下邊緣計算需求對具身智能發(fā)展的推動給出了深層思考。
邊緣算力正成為推動具身智能普惠化的核心驅(qū)動力
毫無疑問,大模型的快速發(fā)展讓物理世界與數(shù)字世界的自動化交互成為可能,背后則是AI對社會生產(chǎn)生活變革的一次深刻推動。技術(shù)的成熟也進一步降低了算力的成本。如今,越來越多的企業(yè)在使用AI時,考慮的就是以更低成本的算力獲得更高質(zhì)量的服務(wù)響應(yīng),這就對算力的經(jīng)濟性、環(huán)保性提出了更高的要求。
劉建偉在演講中深度解析了AI技術(shù)從概念到生產(chǎn)力革命的演進路徑,以及邊緣算力如何成為推動具身智能普惠化的核心驅(qū)動力。他表示,AI是一種全新的程序范式,其編程方式正在從規(guī)則驅(qū)動向數(shù)據(jù)驅(qū)動進化,且計算方式以高維度的tensor為主。這一背景下,相較于GPU推理在數(shù)據(jù)搬運中造成的能量損耗,NPU能夠更加精準地將算力所產(chǎn)生的能耗用于數(shù)據(jù)的計算,這也使其成為成本更低、更符合AI發(fā)展的經(jīng)濟性需求,這同樣也是愛芯通元NPU堅持不斷迭代的初衷。
AI基礎(chǔ)設(shè)施的普及,本質(zhì)是成本驅(qū)動的效率革命。劉建偉以算力經(jīng)濟性為例,指出用戶需衡量“1元投入能換取多少AI性能”(如圖像處理幀率、Token生成量)?;趷坌就ㄔ狽PU研發(fā)的專用AI處理器,正是通過“算子指令集+數(shù)據(jù)流微架構(gòu)”設(shè)計,將其能效比提升至傳統(tǒng)GPU的10倍,使AI計算成本降至工業(yè)級可接受范圍。
在談及具身智能的發(fā)展場景時,劉建偉表示,具身智能與輔助駕駛一脈相承,都是邊緣計算的“感知+決策+執(zhí)行”,且技術(shù)成本能夠更好地分攤。這也使具身智能可以更快速,更低成本地落地在制造業(yè)、服務(wù)業(yè)等一些商業(yè)化的場景中。
為高能效比而來 愛芯通元AX8850讓具身智能觸手可及
把智能基建的價格“打下來”成為所有算力芯片企業(yè)的核心目標之一,而要實現(xiàn)高智價比的智能計算體系,必須構(gòu)建基于算子的指令集架構(gòu),這是形成底層微架構(gòu)設(shè)計空間的基礎(chǔ)。論壇上,劉建偉帶來了愛芯元智最新的邊緣智能芯片產(chǎn)品愛芯通元AX8850。芯片集成了八核A55 CPU,24TOPs@INT8高算力的NPU,支持H.264/265編解碼、64bit LPDDR4x、eMMC v5.1/ SPI Flash、2路Ethernet、1路USB3.0、2路USB2.0、2路HDMI輸出,可幫助用戶在消費類電子產(chǎn)品智能化升級等領(lǐng)域的邊緣計算發(fā)揮更大的價值。
據(jù)劉建偉介紹,AX8850有兩大核心優(yōu)點,一是具有完備的算子指令集,能夠滿足AI算法的不斷演進需求;二是采用了高性能異構(gòu)多核架構(gòu)以及可編程數(shù)據(jù)流微架構(gòu)。其中,高效能張量核針對Tensor計算優(yōu)化,并有效結(jié)合向量核全面優(yōu)化Transformer和BEV算法,支持靈活編程,輔以SDMA和異構(gòu)多核硬件協(xié)同,豐富的CV算子做前后處理,全面提升感知性能。而集成多種計算核的異構(gòu)多核架構(gòu),通過硬件調(diào)度優(yōu)化數(shù)據(jù)依賴性,減少能耗浪費。在工具鏈方面,公司歷經(jīng)多年量產(chǎn)打磨的軟件棧支持快速模型部署,開發(fā)者無需從零適配,大幅降低開發(fā)門檻。
在具體使用場景中,AX8850的環(huán)境感知功能可實時執(zhí)行語義分割、視頻連續(xù)分析等;同時,基于“圖生文”技術(shù)的多模態(tài)交互能力,也顯著提升了人機交互的自然性與智能化水平。此外,多傳感器融合技術(shù)也以低成本方案彌補了純視覺感知的局限性,這些都讓服務(wù)機器人、輔助駕駛等高精度場景的應(yīng)用更加有的放矢。
靈活的場景適配,高隱私性,讓邊緣計算更好地支撐具身智能的落地需求。愛芯通元系列NPU在邊緣計算領(lǐng)域具有能效比高、易用性強和生態(tài)豐富等優(yōu)勢。能夠讓包括機器人在內(nèi)的邊緣設(shè)備更好地感知環(huán)境,與環(huán)境進行更高效的交互。這正是愛芯元智對公司使命的不斷踐行——讓覆蓋千行百業(yè)的“普惠AI”成為可能。