6月5日消息，據(jù)路透社報道，根據(jù)非營利機構(gòu)MLCommons最新出具的AI系統(tǒng)性能報告顯示，英偉達（NVIDIA）最新一代Blackwell GPU芯片的AI模型訓練速度超過了上一代Hopper GPU的兩倍以上。
根據(jù)報告顯示，在利用英偉達、AMD等廠商的AI芯片針對Meta旗下4,050億參數(shù)“Llama 3.1”等人工智能模型的訓練中，2,496顆Blackwell芯片只花27分鐘就完成AI模型的訓練任務。相較之下，Hopper芯片需要三倍以上的數(shù)量，完成訓練的時間才能略快一些。
與英偉達合作產(chǎn)出上述部分性能測試結(jié)果的CoreWeave產(chǎn)品負責人Chetan Kapoor表示，AI產(chǎn)業(yè)如今逐漸傾向把一小群芯片串接成次系統(tǒng)，用來進行不同的AI訓練任務，而不是像過去那樣打造動輒100,000顆同質(zhì)芯片（甚至更多）的巨大訓練叢集。
Kapoor說，那些參數(shù)規(guī)模達到上萬億參數(shù)的巨大AI模型，只要通過這種方式，就能加快或減少訓練時間。
值得注意的是，據(jù)Barron’s報導，英偉達加速運算部門負責人Ian Buck 4日在美銀全球科技大會（BofA Securities Global Technology Conference）上表示，AI推論（Inference）出現(xiàn)爆炸性需求，主要是受到自動推理（reasoning）的模型日漸獲得應用帶動。他說，推理功能“增添了非常多價值”。
本站內(nèi)容除特別聲明的原創(chuàng)文章之外，轉(zhuǎn)載內(nèi)容只為傳遞更多信息，并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者。如涉及作品內(nèi)容、版權和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話：010-82306118；郵箱：aet@chinaaet.com。