谷歌正尋求與芯片設(shè)計(jì)商Marvell Technology合作,開(kāi)發(fā)兩款專(zhuān)為AI推理工作負(fù)載定制的新芯片,此舉是谷歌系統(tǒng)性削減對(duì)長(zhǎng)期合作伙伴博通依賴的最新舉措,也折射出AI行業(yè)對(duì)推理芯片需求的急劇升溫。
據(jù)The Information 19日?qǐng)?bào)道,知情人士透露,谷歌與Marvell的談判涉及兩款芯片:一款是配合谷歌張量處理器(TPU)運(yùn)行的內(nèi)存處理單元(MPU),另一款是專(zhuān)為運(yùn)行AI模型而設(shè)計(jì)的新型TPU。與谷歌此前向Marvell采購(gòu)現(xiàn)貨芯片不同,此次合作旨在為谷歌量身定制專(zhuān)屬半導(dǎo)體產(chǎn)品。
此次談判對(duì)芯片市場(chǎng)格局具有直接影響。博通股價(jià)面臨潛在壓力——盡管博通本月剛與谷歌簽署了延續(xù)至2031年的新協(xié)議,但谷歌多元化供應(yīng)商的戰(zhàn)略意圖已愈發(fā)清晰。與此同時(shí),Marvell有望進(jìn)一步擴(kuò)大其定制芯片業(yè)務(wù)版圖,該業(yè)務(wù)目前已是其增速最快的板塊。
兩款新芯片:分工明確,直指推理效率
據(jù)兩位知情人士透露,谷歌與Marvell合作開(kāi)發(fā)的內(nèi)存處理單元將與現(xiàn)有TPU協(xié)同工作,根據(jù)計(jì)算需求與內(nèi)存需求的差異,在兩類(lèi)芯片之間動(dòng)態(tài)分配AI工作負(fù)載。這一設(shè)計(jì)思路源于推理任務(wù)的內(nèi)在異質(zhì)性——生成響應(yīng)的某些步驟對(duì)算力要求極高,另一些步驟則受制于芯片讀寫(xiě)內(nèi)存的速度,單一處理器難以兼顧兩者。
谷歌計(jì)劃生產(chǎn)近200萬(wàn)個(gè)內(nèi)存處理單元,但知情人士指出,由于談判仍處于早期階段,該數(shù)字存在變動(dòng)可能。作為參照,摩根士丹利估計(jì)谷歌2027年的TPU產(chǎn)量約為600萬(wàn)個(gè)。雙方目標(biāo)是最快于明年完成內(nèi)存處理單元的設(shè)計(jì)定稿,隨后移交試產(chǎn)。
第二款芯片——專(zhuān)為推理場(chǎng)景打造的新型TPU——的設(shè)計(jì)完成時(shí)間及計(jì)劃產(chǎn)量目前尚不明確。谷歌目前在臺(tái)積電生產(chǎn)芯片,新芯片是否仍由臺(tái)積電代工同樣有待確認(rèn)。
推理芯片軍備競(jìng)賽提速,英偉達(dá)發(fā)布LPU成催化劑
谷歌加速推進(jìn)這一合作,部分原因在于英偉達(dá)的競(jìng)爭(zhēng)壓力。
據(jù)一名谷歌員工透露,谷歌此前已有開(kāi)發(fā)推理芯片的計(jì)劃,英偉達(dá)在今年3月GTC大會(huì)上發(fā)布語(yǔ)言處理單元(LPU)后,谷歌隨即加快了相關(guān)工作。英偉達(dá)的LPU基于其以200億美元從初創(chuàng)公司Groq授權(quán)的技術(shù)構(gòu)建,而Marvell正是Groq第一代LPU的芯片設(shè)計(jì)合作伙伴——這意味著Marvell已具備設(shè)計(jì)推理芯片的實(shí)戰(zhàn)經(jīng)驗(yàn)。
推理芯片需求的爆發(fā),根本上源于AI產(chǎn)品形態(tài)的演進(jìn)。隨著自主智能體等更復(fù)雜的AI應(yīng)用落地,其所需算力遠(yuǎn)超傳統(tǒng)聊天機(jī)器人。OpenAI近期與Cerebras簽署了逾200億美元的推理芯片采購(gòu)協(xié)議,同時(shí)也在與博通聯(lián)合開(kāi)發(fā)自有推理芯片,行業(yè)整體正加速布局這一賽道。
去博通化:戰(zhàn)略意圖明確,但進(jìn)程仍受制約
谷歌尋求與Marvell合作,是其自2023年以來(lái)持續(xù)推進(jìn)供應(yīng)商多元化戰(zhàn)略的組成部分。博通長(zhǎng)期作為谷歌TPU的唯一設(shè)計(jì)合作伙伴,并按每顆TPU產(chǎn)量收取授權(quán)費(fèi)——隨著TPU需求激增,谷歌支付給博通的費(fèi)用水漲船高,這是谷歌尋求替代方案的核心動(dòng)因。
谷歌已于去年引入聯(lián)發(fā)科參與TPU芯片的設(shè)計(jì)與生產(chǎn)。此次與Marvell的談判,則進(jìn)一步拓寬了谷歌的合作伙伴矩陣。谷歌此前已向Marvell采購(gòu)過(guò)CXL控制器芯片,用于管理數(shù)據(jù)中心內(nèi)服務(wù)器間的內(nèi)存共享,這段合作經(jīng)歷為雙方建立了互信基礎(chǔ)。
然而,博通的核心地位短期內(nèi)難以撼動(dòng)。博通本月剛與谷歌簽署新協(xié)議,將為谷歌下一代AI數(shù)據(jù)中心機(jī)架提供定制TPU及網(wǎng)絡(luò)組件,合作期限延伸至2031年。這表明,谷歌的多元化戰(zhàn)略更多是在現(xiàn)有格局上疊加新選項(xiàng),而非徹底切換。
對(duì)Marvell而言,與谷歌的深度合作意味著其定制芯片業(yè)務(wù)有望再獲重量級(jí)客戶背書(shū)。Marvell的主營(yíng)業(yè)務(wù)涵蓋數(shù)據(jù)中心標(biāo)準(zhǔn)網(wǎng)絡(luò)、存儲(chǔ)及光互聯(lián)芯片,但近年來(lái)協(xié)助客戶設(shè)計(jì)專(zhuān)屬芯片的定制業(yè)務(wù)已成為其增速最快的板塊。
谷歌TPU的商業(yè)化進(jìn)程也為此次合作提供了更廣闊的市場(chǎng)想象空間。谷歌去年開(kāi)始向非谷歌數(shù)據(jù)中心的客戶租賃TPU,直接挑戰(zhàn)英偉達(dá)在AI芯片市場(chǎng)的主導(dǎo)地位,Anthropic、Meta和蘋(píng)果均已成為T(mén)PU客戶。若新型推理芯片研發(fā)順利,其潛在市場(chǎng)將不局限于谷歌內(nèi)部需求。

