您的當前位置:首頁 > 熱點 > 英伟达推出H100 NVL:用于大语言模型训练 正文
時間:2025-08-02 08:48:09 來源:網絡整理 編輯:熱點
今年以ChatGPT为首的大语言模型突然在网上爆红,引起了人们对于AI的极度追求。而大语言模型的训练则需要大量的计算卡,这便是英伟达的优势。去年英伟达正式推出了H100计算卡,让计算卡的性能达到新的高
今年以ChatGPT為首的大語言模型突然在網上爆紅,引起了人們對于AI的極度追求。而大語言模型的訓練則需要大量的計算卡,這便是英偉達的優勢。去年英偉達正式推出了H100計算卡,讓計算卡的性能達到新的高度,而這一次英偉達又推出了H100 NVL,專門為大語言模型而打造。
英偉達表示H100 NVL是為大型語言模型所準備的產品,由2塊H100計算卡通過PCIe橋接在一起,相比較單張H100計算卡,這套系統可以提供188GB的HBM 3顯存。而英偉達稱目前ChatGPT所采用的訓練計算機搭載的是英偉達HGX A100,而如果說使用H100 NVL計算卡的話,基于四對H100以及雙NVLINK的服務器可以讓處理與計算速度提升10倍,從而讓大語言模型的處理效率大幅提升,進而降低使用成本。甚至通過軟硬件的優化,大語言模型的建模與訓練速度最高可以提升30倍。預計H100 NVL計算卡將會在今年下半年和大家正式見面。
除此之外英偉達也推出了L4,專門為AI視頻解碼與轉碼打造,英偉達表示相比較傳統的CPU轉碼,通過L4這樣的專屬芯片可以實現最高120倍的AI視頻性能提升,并且能效比提升99%,英偉達稱基于8塊L4 GPU的視頻解碼服務器可以替代原有100多臺的視頻解碼服務器,同樣也是大幅提升工作效率,增加企業的生產力。可以說無論是H100 NVL還是L4,都是英偉達為專屬領域所推出的計算設備,相比較過去的通用性芯片,這種專屬芯片擁有更加出色的優化,能夠為特定任務起到事半功倍的效果。
廣州國際生物島試點園區揭牌2025-08-02 08:27
鏈接京津 貨通全球——河北商貿物流新活力觀察2025-08-02 08:13
壁上乾坤:氣候變化下的彩塑壁畫觀察記2025-08-02 07:52
太原夏秋季夜間“錯峰加油”有優惠2025-08-02 07:50
東西問|宋獨:“中文熱”在全球升溫彰顯中國文化獨特魅力2025-08-02 07:33
大美鄉村 希望田野2025-08-02 06:59
河北沽源興隆堡:花開好風景 致富好前景2025-08-02 06:54
山西省總工會公布助力職工消費“十項措施”2025-08-02 06:54
四川成都:暴雨致夜晚路燈推遲開燈 搶險維護不停2025-08-02 06:12
石家莊市以項目大攻堅助力發展大提速2025-08-02 06:08
鄭欽文連續三年溫網一輪游 女單首輪十位種子選手出局2025-08-02 08:46
山西印發實施意見進一步全面推進公證工作改革發展2025-08-02 08:40
逐夢·高招零距離丨河北藝術職業學院2025-08-02 08:30
生態鄉村2025-08-02 08:21
招商難、同質化 明星也救不了的網綜如何突圍?2025-08-02 07:59
口袋公園 樂享生活2025-08-02 07:14
微視頻丨珍愛土地2025-08-02 07:00
河北石家莊:夏日生態好 飛鳥育雛忙2025-08-02 06:53
17年耗資160億卻寸軌未鋪?美國首條高鐵深陷“爛尾”困局2025-08-02 06:50
昔陽縣三都鄉延家底村:灌溉設施升級助力農業生產提質2025-08-02 06:46