8月30日，在第八屆“芯動(dòng)北京”中關(guān)村IC產(chǎn)業(yè)論壇高峰論壇上，中國(guó)工程院院士、清華大學(xué)教授鄭緯民發(fā)表主題為《自主可控的智算芯片很重要，其核心基礎(chǔ)軟件也很重要》的演講。

在發(fā)言中，鄭緯民強(qiáng)調(diào)了軟硬件相結(jié)合、構(gòu)建國(guó)產(chǎn)智能算力的重要性，指出優(yōu)秀的系統(tǒng)軟件能夠充分釋放底層硬件算力的潛力，構(gòu)建良好軟件生態(tài)可以有效降低大模型在不同AI芯片適配中的成本。

近年來(lái)，人工智能被越來(lái)越廣泛地應(yīng)用于諸多重要領(lǐng)域，AI大模型對(duì)算力的需求也產(chǎn)生了爆發(fā)式的增長(zhǎng)。在大模型的整個(gè)生命周期中，模型訓(xùn)練、模型微調(diào)、模型推理三個(gè)主要過(guò)程都對(duì)算力有著龐大的需要。

對(duì)此，鄭緯民指出，隨著AI要素全面進(jìn)入本地化時(shí)代，算力國(guó)產(chǎn)AI算力在總量中的占比將快速提升，到2025年將有50%為國(guó)產(chǎn)算力，到2030年國(guó)產(chǎn)算力將超過(guò)90%。然而，在國(guó)產(chǎn)智算芯片取得快速發(fā)展的同時(shí)，國(guó)產(chǎn)智能算力平臺(tái)仍然面臨來(lái)自軟件生態(tài)方面的挑戰(zhàn)。

據(jù)介紹，深度學(xué)習(xí)需要多層軟件棧的支持，其中配套的核心基礎(chǔ)軟件至少有10種，包括并行系統(tǒng)、編程框架、通信庫(kù)、AI編譯器、算子庫(kù)、編程語(yǔ)言、容錯(cuò)系統(tǒng)、調(diào)度器，內(nèi)存管理、存儲(chǔ)系統(tǒng)。只有將這些軟件系統(tǒng)做好，并與集成電路適配起來(lái)，才能充分發(fā)揮AI芯片的性能，也才會(huì)使國(guó)產(chǎn)的智算芯片與核心基礎(chǔ)軟件逐漸獲得用戶的青睞。

當(dāng)前，在大模型的訓(xùn)練推理過(guò)程中，國(guó)產(chǎn)系統(tǒng)仍然不具備競(jìng)爭(zhēng)優(yōu)勢(shì)，最主要的原因就是來(lái)自軟件生態(tài)的挑戰(zhàn)。國(guó)產(chǎn)算力易得，軟件生態(tài)欠缺。

在實(shí)踐中，鄭緯民院士也身體力行，帶領(lǐng)課題組對(duì)國(guó)產(chǎn)智算系統(tǒng)核心基礎(chǔ)軟件進(jìn)行了大量開發(fā)工作。據(jù)介紹，鄭院士課題組目前已經(jīng)開發(fā)的軟件系統(tǒng)，涉及10種核心基礎(chǔ)軟件中的7種，如PowerFusion為一款面向國(guó)產(chǎn)AI芯片智能編譯器；FastMoE為MOE大模型并行加速系統(tǒng)；FastDecode為高吞吐大模型推理系統(tǒng)等。人們將上述軟件系統(tǒng)綜合命名為“八卦爐”基礎(chǔ)軟件系統(tǒng)。

本次演講中，鄭緯民也介紹了“八卦爐”基礎(chǔ)軟件系統(tǒng)在支撐國(guó)產(chǎn)AI算力應(yīng)用中的實(shí)際效果。在神威新一代超級(jí)計(jì)算機(jī)案例中，八卦爐擴(kuò)展到全機(jī)規(guī)模（10萬(wàn)臺(tái)服務(wù)器），支撐了多個(gè)國(guó)產(chǎn)大模型的訓(xùn)練任務(wù)，如百川大模型、LLAMA大模型等。八卦爐+國(guó)產(chǎn)超算將實(shí)現(xiàn)百萬(wàn)億參數(shù)量預(yù)訓(xùn)練模型加速。

鄭緯民總結(jié)指出，發(fā)展人工智能領(lǐng)域，構(gòu)建國(guó)產(chǎn)智能算力至關(guān)重要，而智能算力的軟件生態(tài)是當(dāng)前制約我國(guó)人工智能發(fā)展的關(guān)鍵因素之一，需要著力構(gòu)建良好軟件的生態(tài)體系。