Intel Gaudi 2 AI训练比英伟达H100快55%:希望夺取更多市场份额
作者:休閑 來源:探索 瀏覽: 【大 中 小】 發(fā)布時間:2025-08-02 09:00:01 評論數(shù):
目前在AI領(lǐng)域,最受關(guān)注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于Stable Diffusion打造的AI生圖也是各大廠商目前所重點宣傳的。而作為AI背后的算力硬件支持,英偉達的計算卡可以說備受追捧,供不應求,英偉達也是賺的盆滿缽滿。當然這也讓其他計算卡廠商感到十分地眼紅,比如行業(yè)巨頭英特爾。這家藍色巨人推出的Gaudi 2加速卡就是為對抗H100計算卡而生,而經(jīng)過不斷地優(yōu)化,目前在Stable Diffusion領(lǐng)域,Gaudi 2加速卡的表現(xiàn)比NV的計算卡更加出色。
目前Stable Diffusion開發(fā)商Stability AI發(fā)布了一份報告,在報告中Stability AI重點對比了英偉達與英特爾計算卡在AI作圖上的效率。以參數(shù)為2B的MMDiT模型為例,訓練深度設(shè)置為24、BFloat16的混合精度,在該模型設(shè)置下,Gaudi 2計算卡最高可以達到每秒訓練1254張圖片,而256容量下則是每秒927張。這個性能要比英偉達現(xiàn)在的H100更加出色,比如說H100-80GB計算卡的訓練速度為每秒595張,而A100-80GB則是每秒訓練381張,也就是說基于英特爾Gaudi 2的訓練速度在相同容量下比H100計算卡提升55%,更是A100性能的2.43倍。
另外如果說采用32批量單元的設(shè)置下,英特爾Gaudi 2訓練速度為每秒12654張,而A100-80GB則為3992張,英特爾計算卡是A100-80GB計算卡的3.17倍,還是相當給力的。當然Stable Diffusion作為現(xiàn)在最為流行的模型,各大計算卡廠商都愿意花精力去優(yōu)化,而且更為重要的是英偉達的AI生態(tài)已經(jīng)做得十分地完善,并且英偉達B100什么水平還不知道。要是英特爾Gaudi 2訓練計算卡真這么給力,那現(xiàn)在AI市場也不會被英偉達所壟斷了。