摩根士丹利(大摩)研究公司發(fā)布了一份報(bào)告,對比了不同AI解決方案在推理工作負(fù)載中的運(yùn)營成本和利潤率。結(jié)果顯示,大多數(shù)運(yùn)行多芯片進(jìn)行AI推理的“工廠”或公司,其利潤率超過50%,而英偉達(dá)在其中處于領(lǐng)先地位。
摩根士丹利選取了一系列功率為100兆瓦的AI“工廠”,這些工廠由不同供應(yīng)商的服務(wù)器機(jī)架組成。其中,英偉達(dá)的GB200 NVL72“Blackwell”GPU平臺實(shí)現(xiàn)了最高的利潤率,達(dá)到77.6%,預(yù)計(jì)利潤約為35億美元。
谷歌自研的TPU v6e pod以74.9%的利潤率排名第二,AWS(亞馬遜云)的Trn2 UltraServer取得了62.5%的利潤率,而華為的昇騰CloudMatrix 384平臺也取得了47.9%的利潤率。
值得注意的是,AMD在AI推理方面的表現(xiàn)不盡如人意,其最新的MI355X平臺利潤率為-28.2%,較老的MI300X平臺更是低至-64.0%。
在芯片每小時收入方面,英偉達(dá)同樣表現(xiàn)突出。其GB200 NVL72芯片每小時可產(chǎn)生7.5美元的收入,HGX H200芯片每小時可產(chǎn)生3.7美元的收入,華為的昇騰CloudMatrix 384平臺的GPU芯片每小時能產(chǎn)生1.9美元的收入,而AMD的MI355X平臺每小時僅能產(chǎn)生1.7美元的收入,其他芯片大多每小時收入在0.5到2.0美元之間。
(校對/趙月)