亚洲五月天一区二区三区-日本午夜福利视频在线-日本欧美一区二区不卡免费-日韩深夜视频在线观看

Ceva徐明:CEVA NPU IP賦能端側AI基礎設施建設

來源:愛集微 #Ceva# #EDA論壇# #集微大會#
4230

7月3-5日,2025第九屆集微半導體大會在上海張江科學會堂舉行。大會由半導體投資聯(lián)盟、ICT知識產(chǎn)權發(fā)展聯(lián)盟主辦,愛集微(上海)科技有限公司承辦,上海市集成電路行業(yè)協(xié)會協(xié)辦,浦東科創(chuàng)集團、海望資本戰(zhàn)略協(xié)作,上海市張江科學城建設管理辦公室、浦東新區(qū)投資促進服務中心支持。

作為本屆大會最具技術含量的核心板塊之一,集微EDA IP工業(yè)軟件論壇于7月4日盛大舉行。大會以“智啟芯程——AI驅動下的EDA與IP設計新紀元”為主題,匯聚國內(nèi)外EDA/IP領域頂尖學者、企業(yè)領袖及投資專家,共同探討AI時代芯片設計工具鏈的創(chuàng)新藍圖。

Ceva中國技術支持總監(jiān)徐明

會上,行業(yè)領先的硅和軟件知識產(chǎn)權許可商Ceva中國技術支持總監(jiān)徐明在發(fā)表題為《人工智能的下一次進化:邊緣優(yōu)先》的主題演講中稱,隨著人工智能的深入發(fā)展和持續(xù)迭代,邊緣人工智能正在推動整個科技行業(yè)發(fā)生革命性變化,而其關鍵驅動力在于六大方面。

第一,實時處理便于即時數(shù)據(jù)處理、推理模型和更快地完成首個標記(token)。第二,數(shù)據(jù)隱私本地數(shù)據(jù)處理增強了安全性和隱私性。第三,能量:邊緣推理可降低云計算的電力負荷,解決云的限制并推動邊緣計算的應用。第四,成本:與每次查詢的云成本相比,在本地運行推理的成本接近于零。第五,帶寬效率減少對云的依賴,節(jié)約互聯(lián)網(wǎng)帶寬。第六,個性化定制化體驗,提升用戶參與度和滿意度。

徐明指出,“如今的人工智能發(fā)展趨勢是“邊緣優(yōu)先”(Edge-First),其中包括更優(yōu)化、更高效的模型正在加速邊緣部署,以及更小的尺寸和更低的內(nèi)存使用。目前,英偉達、谷歌、高通和Arm等行業(yè)領導者正在從以云計算為中心的人工智能轉向邊緣原生智能?!?/p>

例如英偉達邊緣人工智能平臺旨在直接在機器人和邊緣設備上訓練、模擬和部署人工智能模型,為工業(yè)、物流和自治系統(tǒng)的實時決策提供支持。高通正在從定制解決方案轉向可擴展的人工智能邊緣平臺,包括對Edge Impulse的收購和Dragonwing AI soc的開發(fā)使邊緣人工智能更容易被開發(fā)人員使用。Arm認為隨著邊緣人工智能在智能家居、城市、工業(yè)物聯(lián)網(wǎng)、醫(yī)療保健和零售等領域實現(xiàn)實時、端側智能和決策,整個行業(yè)轉型正在發(fā)生革命性變化。

在這背后,“邊緣優(yōu)先”人工智能應用范式的主要驅動因素主要在于三方面,即高效、小型、專業(yè)化的人工智能模型的出現(xiàn),邊緣人工智能硬件的進步,以及邊緣人工智能在不同行業(yè)的融合。徐明還稱,“NPU正在推動人工智能時代的計算周期(Computing Cycles)演進,同時其設備規(guī)模可達百億數(shù)量級別,遠超移動互聯(lián)網(wǎng)、桌面互聯(lián)網(wǎng)和PC時代?!?/p>

但鑒于邊緣人工智能的部署面臨一些挑戰(zhàn),成功應用AI芯片需要端到端人工智能解決方案,包括適用于各種應用的可擴展NPU,便于部署的人工智能SDK和工具,用于參考/優(yōu)化AI模型的Model zoo框架,可互補解決方案的生態(tài)系統(tǒng),以及面向未來的人工智能架構。

對此,徐明強調,Ceva針對性地提出了相關人工智能戰(zhàn)略,即通過可擴展的NPU+SDK助力智能邊緣,而這一戰(zhàn)略的支柱是“連接”“感知”和“推理”?!拔覀冎铝τ跒楦餍懈鳂I(yè)提供軟件和芯片IP 解決方案,助力客戶更快、更可靠、更高效、更經(jīng)濟地將創(chuàng)新的尖端產(chǎn)品推向市場”。其中,在可擴展的NPU系列方面,包括支持從數(shù)據(jù)中心到邊緣設備的AI推理,以及優(yōu)化超低功耗和實時性能。在全棧集成方面,硬件工具主要有NeuPro NPUs + SensPro DSP,軟件工具主要包括NeuPro-Studio SDK、圖形編譯器。

進一步來看,Ceva的NeuPro-M和NeuPro-Nano兩大產(chǎn)品解決方案,是適用于各種工作負載的全套NPU IP,同時統(tǒng)一的AI SDK易于采用,可廣泛應用于預測與維護、健康及健身、物體識別、監(jiān)控、ADAS和Co-Pilot等應用場景。整體上,根據(jù)10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三個不同算力等級劃分,Ceva針對性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K產(chǎn)品,使得NeuPro NPU系列支持任何邊緣人工智能部署。

徐明還稱,在整個行業(yè)中,Ceva的NeuPro NPU具備重要的優(yōu)勢和差異化特征,即可擴展性、極致能效比和高度集成性。CEVA針對transformer網(wǎng)絡做了原生的支持和優(yōu)化,特別適合生成式AI??梢詫崿F(xiàn)高吞吐量的人工智能應用,且只消耗最小的功耗——針對Llama 2 和3.2的一些網(wǎng)絡可達3500 Tokens每秒/瓦的性能。其次,在NPU架構可擴展性方面,單核算力可橫跨MCU到高端SoC(10 GOPS - 400 TOPS),以支持音頻、視覺、故障檢測、智能手機、ADAS等應用。另外,CEVA融合了DSP與NPU,具有傳感器數(shù)據(jù)前處理、AI推理、后處理的統(tǒng)一平臺。

在致力于推動邊緣人工智能芯片發(fā)展的同時,Ceva正利用可擴展的低功耗IP平臺,助力客戶產(chǎn)品實現(xiàn)數(shù)據(jù)傳輸、數(shù)據(jù)交互等能力,乃至滿足各類終端市場關鍵的應用需求,進而在全球擁有廣泛、多元的客戶基礎并受到全球頂級品牌信賴,其中包括各大小型Fabless、OEM。

基于領先的IP 解決方案和龐大應用基礎,Ceva旨在引領芯片和軟件IP的未來。徐明表示,“Ceva圍繞連接、感知和推理布局的各大產(chǎn)品線已經(jīng)無處不在,廣泛應用于消費物聯(lián)網(wǎng)、汽車、工業(yè)、基礎設施、個人電腦和移動終端等領域,并覆蓋眾多賽道、細分領域的主流品牌。目前,由Ceva提供支持的設備每秒都有超過60個產(chǎn)品在出貨,而且Ceva驅動的設備年出貨量已超過20億。迄今為止,采用Ceva的設備已經(jīng)達到了190億以上。

責編: 愛集微
來源:愛集微 #Ceva# #EDA論壇# #集微大會#
THE END

*此內(nèi)容為集微網(wǎng)原創(chuàng),著作權歸集微網(wǎng)所有,愛集微,愛原創(chuàng)

關閉
加載

PDF 加載中...