人工智能（AI）基礎(chǔ)設(shè)施的軍備競賽正以前所未有的速度升級。在2025年Hot Chips大會(huì)上，谷歌公布了其下一代TPU平臺(tái)Ironwood的更多細(xì)節(jié)，以及其在機(jī)架級的擴(kuò)展能力。Ironwood于2025年4月發(fā)布，其卓越的性能飛躍再次提升了這場激烈的AI競爭的標(biāo)準(zhǔn)。

從TPU v4到Ironwood，谷歌在短短幾年內(nèi)將單芯片算力提升十倍以上，這反映了AI模型計(jì)算需求的爆炸式增長，以及芯片設(shè)計(jì)人員為滿足這些需求所做的努力。

據(jù)報(bào)道，代號為Ironwood的第七代TPU架構(gòu)的性能是當(dāng)今最強(qiáng)大超級計(jì)算機(jī)的24倍。一個(gè)Ironwood Superpod將集成9216顆芯片，進(jìn)一步擴(kuò)大規(guī)模。

在2025年Hot Chips大會(huì)上，谷歌宣布單顆Ironwood芯片的峰值計(jì)算能力可達(dá)4614 TFLOP。這比2022年發(fā)布的TPU v4提升16倍以上，比2023年發(fā)布的TPU v5p提升近10倍。

Ironwood配備192GB高帶寬存儲(chǔ)器（HBM），帶寬高達(dá)7.4TB/s。

2022年發(fā)布的TPU v4單顆芯片峰值計(jì)算能力為275 TFLOP，配備32GB HBM內(nèi)存和1.2TB/s 帶寬；而2023年推出的TPU v5p單顆芯片峰值計(jì)算能力為459 TFLOP，配備95GB HBM內(nèi)存和2.8TB/s帶寬。

TPU v4、TPU v5p和 Ironwood的Pod分別集成多達(dá)4096、8960 和9216顆獨(dú)立芯片。Ironwood不僅是單芯片創(chuàng)新的突破，更是一個(gè)旨在實(shí)現(xiàn)極致可擴(kuò)展性的全面系統(tǒng)級解決方案。

強(qiáng)大的芯片性能必須依靠精準(zhǔn)的系統(tǒng)設(shè)計(jì)才能完全實(shí)現(xiàn)。為此，谷歌推出了Ironwood模塊化、可擴(kuò)展的架構(gòu)，涵蓋從芯片到機(jī)架再到Pod的各個(gè)環(huán)節(jié)。

該系統(tǒng)的核心是Ironwood SoC，它將四顆芯片集成在Ironwood PCBA主板上。16塊這樣的 PCBA 主板堆疊在一起，形成一個(gè)包含64顆芯片的Ironwood TPU機(jī)架。

為了實(shí)現(xiàn)更大規(guī)模的擴(kuò)展，谷歌采用了其專有的芯片間互連（ICI）技術(shù)，結(jié)合使用PCB走線、銅纜和光纖鏈路，將多個(gè)機(jī)架連接成一個(gè)超級Pod。

在如此驚人的計(jì)算能力背后，存在著巨大的能耗和散熱挑戰(zhàn)。谷歌為Ironwood機(jī)架配備了高效的液冷系統(tǒng)，以解決這些問題。

Ironwood TPU可以說是谷歌迄今為止規(guī)模最大、性能最強(qiáng)的AI計(jì)算引擎。它部署在谷歌迄今為止最大的“超級計(jì)算機(jī)pod配置中。

這些芯片和系統(tǒng)設(shè)計(jì)面向AI訓(xùn)練和推理工作負(fù)載，尤其適用于混合專家（MoE）推理模型。

Ironwood TPU也是首個(gè)在其張量核心和矩陣數(shù)學(xué)單元中支持FP8計(jì)算的TPU。之前的TPU支持INT8格式的推理處理和BF16格式的訓(xùn)練。

此外，Ironwood芯片還配備了第三代SparseCore加速器，該加速器首次亮相于2023年的TPU v5p，并在2024年的Trillium芯片中得到進(jìn)一步增強(qiáng)。SparseCore加速器最初的設(shè)計(jì)目的是加速使用嵌入進(jìn)行跨用戶類別推薦的推薦模型。（校對/趙月）