前有雷军亲自交车,后有黄仁勋送货上门?全球首款AI超芯牛在哪?
截至美東時間4月24日16:00,英偉達的總市值已達到1.99萬億。同一天,OpenAI總裁兼聯合創始人發了一張合照,除了他,在奧特曼及英偉達老黃的面前,是全球范圍內第一塊AI超級芯片DGX H200。
DGX H200代表了人工智能技術領域的一項重大進步,“將推進AI、計算、以及人類文明的發展”。相比前代H100,不僅內存帶寬增加了1.4倍,內存容量增加了1.8倍,總內存帶寬達到了每秒4.8TB,內存容量達到了141GB,能夠帶來更快地處理速度和更高效地處理數據。
如果沒有DGX H200,用戶可能需要數月才能構建大型模型,而借助一站式的超級AI芯片DGX GH200部署,時間將大幅減少至數周,就能構建大型模型,特別是對目前備受期待的GPT-5模型,它會助力帶來令人瘋狂的性能升級。英偉達曾表示過,當H200在運行GPT-3時,比原始A100高出了18倍,比H100快了11倍左右。除此之外,當DGX H200進入市場后,還將會在醫學領域、氣象領域和智能駕駛等領域帶來巨大的推動和影響力。
根據目前信息總結的DGX H200相關參數亮點為:32個Grace Hopper超級芯片,通過英偉達 NVLink互連、19.5TB的大規模共享GPU內存空間、900GB/s的GPU到GPU帶寬、128 petaFLOPS的FP8算力性能。另外,H200還能與H100兼容,使用H100訓練或推理模型的AI企業,可無縫切換最新的H200芯片,我要是企業我也心動了!但問題是,普通企業根本燒不起啊!
相關文章: