【資料圖】

NVIDIA的H100加速卡在AI爆火之后炙手可熱，售價(jià)超過(guò)25萬(wàn)元依然供不應(yīng)求。而它的性能也非?？鋸?，最新的AI測(cè)試中全面刷新記錄，基于GPT-3的大語(yǔ)言模型訓(xùn)練任務(wù)紀(jì)錄已經(jīng)被刷至11分鐘。

機(jī)器學(xué)習(xí)及人工智能領(lǐng)域開(kāi)放產(chǎn)業(yè)聯(lián)盟MLCommons公布了最新的MLPerf基準(zhǔn)評(píng)測(cè)，其中包括8個(gè)負(fù)載測(cè)試，LLM大語(yǔ)言模型中就有基于GPT-3開(kāi)源模型的，很考驗(yàn)平臺(tái)的AI性能。

參與測(cè)試的NVIDIA平臺(tái)由896個(gè)Intel至強(qiáng)8462Y+處理器和3584個(gè)H100加速卡組成，是所有平臺(tái)中唯一跑完所有測(cè)試的，而且刷新了記錄。

在關(guān)鍵的基于GPT-3的大語(yǔ)言模型訓(xùn)練任務(wù)中，H100平臺(tái)只用了10.94分鐘，可以對(duì)比的是Intel平臺(tái)，由96個(gè)至強(qiáng)8380處理器和96個(gè)Habana Gaudi2 AI芯片構(gòu)建的系統(tǒng)中，完成同樣測(cè)試的時(shí)間為311.94分鐘。

H100平臺(tái)的性能幾乎是30倍于Intel平臺(tái)，當(dāng)然兩套平臺(tái)的規(guī)模相差也很大，但只用768個(gè)H100加速卡的話，訓(xùn)練時(shí)間也只要45.6分鐘，依然遠(yuǎn)超Intel平臺(tái)的AI芯片。

關(guān)鍵詞：