【產(chǎn)通社，2月13日訊】如果現(xiàn)在感覺科技的一切都圍繞人工智能（AI）展開，那是因?yàn)榇_實(shí)如此。在計(jì)算機(jī)內(nèi)存市場，這一點(diǎn)尤為明顯。用于供給GPU和其他AI數(shù)據(jù)中心的DRAM需求和盈利能力如此巨大，以至于它正在將內(nèi)存供應(yīng)轉(zhuǎn)移到其他用途，導(dǎo)致價(jià)格飛漲。根據(jù)Counterpoint Research的數(shù)據(jù)，本季度迄今DRAM價(jià)格已上漲80-90%。

最大的AI硬件公司聲稱他們已經(jīng)將芯片安全部署到2028年，但這讓其他所有公司——無論是個(gè)人電腦制造商、消費(fèi)設(shè)備制造商還是所有需要臨時(shí)存儲(chǔ)十億比特的設(shè)備——都在忙于應(yīng)對(duì)稀缺的供應(yīng)和高昂的價(jià)格。

電子行業(yè)是如何陷入這場混亂的？更重要的是，這場混亂將如何擺脫？IEEE Spectrum請(qǐng)經(jīng)濟(jì)學(xué)家和記憶專家來解釋。他們認(rèn)為，當(dāng)前的局面是DRAM行業(yè)歷史性的繁榮與前所未有規(guī)模的AI硬件基礎(chǔ)設(shè)施建設(shè)碰撞的結(jié)果。除非AI領(lǐng)域出現(xiàn)重大崩潰，否則新產(chǎn)能和新技術(shù)要使供需與需求保持一致，還需要數(shù)年時(shí)間。即使如此，價(jià)格也可能依然很高。

要理解兩端，你需要了解供需波動(dòng)的主要罪魁禍?zhǔn)住邘拑?nèi)存（HBM）。


什么是HBM？


HBM是DRAM行業(yè)試圖通過3D芯片封裝技術(shù)來縮短摩爾定律減緩步伐的嘗試。每個(gè)HBM芯片由多達(dá)12個(gè)DRAM芯粒組成，稱為芯片。每個(gè)芯片包含多個(gè)稱為硅孔（TSV）的垂直連接。這些模具堆疊起來，并通過與TSV對(duì)齊的微型焊球陣列連接。這座DRAM塔——厚度約750微米，更像是一座野獸派辦公樓而非塔樓——隨后被堆放在所謂的基礎(chǔ)芯片上，底座芯片在存儲(chǔ)芯片和處理器之間傳遞比特。

這項(xiàng)復(fù)雜的技術(shù)隨后被放置在GPU或其他AI加速器一毫米范圍內(nèi)，并通過多達(dá)2048微米級(jí)連接。HBM連接在處理器的兩側(cè)，GPU和內(nèi)存則作為一個(gè)整體封裝在一起。

GPU這種緊密且高度連接的壓縮設(shè)計(jì)，是為了打破所謂的內(nèi)存墻。這就是將運(yùn)行大型語言模型所需的每秒太字節(jié)數(shù)據(jù)傳輸?shù)紾PU時(shí)，在能源和時(shí)間上的障礙。內(nèi)存帶寬是限制大型語言模型運(yùn)行速度的關(guān)鍵因素。

作為一項(xiàng)技術(shù)，HBM已經(jīng)存在了十多年，DRAM制造商一直在努力提升其能力。隨著AI模型規(guī)模的擴(kuò)大，HBM對(duì)GPU的重要性也在提升。但這也付出了代價(jià)。SemiAnalysis估計(jì)，HBM通常成本是其他類型內(nèi)存的三倍，且占包裝GPU成本的50%或更多。


存儲(chǔ)芯片短缺的起源


內(nèi)存和存儲(chǔ)行業(yè)的觀察者一致認(rèn)為，DRAM是一個(gè)高度周期化的行業(yè)，經(jīng)歷過多次巨大的繁榮和毀滅性的崩盤。由于新晶圓廠的成本達(dá)到150億美元甚至更多，企業(yè)極不愿意擴(kuò)張，可能只有在繁榮時(shí)期才有資金支持，Coughlin Associates總裁兼存儲(chǔ)與存儲(chǔ)專家Thomas Coughlin解釋道。但建造這樣一座晶圓廠并使其投入運(yùn)行可能需要18個(gè)月甚至更長時(shí)間，實(shí)際上確保新產(chǎn)能遠(yuǎn)遠(yuǎn)超過最初的需求激增，導(dǎo)致市場涌入并壓低價(jià)格。

Coughlin說，今天這一周期的起源可以追溯到圍繞新冠疫情的芯片供應(yīng)恐慌。他指出，為了避免供應(yīng)鏈出現(xiàn)故障并支持遠(yuǎn)程工作的快速轉(zhuǎn)變，像亞馬遜、谷歌和Microsoft這樣的數(shù)據(jù)中心巨頭等超大規(guī)模企業(yè)大量收購了內(nèi)存和存儲(chǔ)庫存，推高了價(jià)格。

但隨后供應(yīng)變得更規(guī)律，數(shù)據(jù)中心擴(kuò)展在2022年減弱，導(dǎo)致內(nèi)存和存儲(chǔ)價(jià)格暴跌。Coughlin表示，這種衰退持續(xù)到2023年，甚至導(dǎo)致三星等大型存儲(chǔ)公司將產(chǎn)量削減50%，以試圖保持價(jià)格低于制造成本。這是一次罕見且相當(dāng)絕望的舉措，因?yàn)楣就ǔ１仨殱M負(fù)荷運(yùn)轉(zhuǎn)工廠才能收回價(jià)值。

2023年底開始復(fù)蘇后，“所有存儲(chǔ)和存儲(chǔ)公司都非常謹(jǐn)慎，不愿再次提升產(chǎn)能，”Coughlin說�！耙虼�，2024年及2025年大部分時(shí)間幾乎沒有對(duì)新產(chǎn)能的投資。”


AI數(shù)據(jù)中心的繁榮


新投資的缺乏正與新數(shù)據(jù)中心需求的巨大增長正面沖突。根據(jù)DataCenter Map，全球目前有近2000個(gè)新數(shù)據(jù)中心正在規(guī)劃或建設(shè)中。如果全部建成，全球需求量將增長20%，目前約有9000個(gè)設(shè)施。

如果當(dāng)前的建設(shè)持續(xù)加速，麥肯錫預(yù)測到2030年企業(yè)將花費(fèi)7萬億美元，其中大部分——5.2萬億美元——將用于專注于AI數(shù)據(jù)中心。該公司預(yù)測，其中33億美元將用于服務(wù)器、數(shù)據(jù)存儲(chǔ)和網(wǎng)絡(luò)設(shè)備。

迄今為止，AI數(shù)據(jù)中心熱潮的最大受益者無疑是GPU制造商英偉達(dá)。其數(shù)據(jù)中心業(yè)務(wù)收入從2019年最后一個(gè)季度的不到十億美元，增長到截至2025年10月的季度的510億美元。在此期間，其服務(wù)器GPU不僅需要越來越多的DRAM數(shù)據(jù)，還需要越來越多的DRAM芯片。最近發(fā)布的B300使用八個(gè)HBM芯片，每個(gè)芯片由12個(gè)DRAM芯粒組成。競爭對(duì)手對(duì)HBM的使用在很大程度上與英偉達(dá)類似。例如，AMD MI350 GP 也使用了八顆12芯片。

由于需求如此之大，DRAM制造商收入中越來越多來自HBM。美光是SK海力士和三星之后的第三大制造商，報(bào)告稱HBM及其他云相關(guān)內(nèi)存占其DRAM收入的比例從2023年的17%上升到2025年的近50%。

美光預(yù)測，HBM的總市場規(guī)模將從2025年的350億美元增長到2028年的1000億美元——這一數(shù)字超過了2024年整個(gè)DRAM市場，首席執(zhí)行官Sanjay Mehrotra在去年12月告訴分析師。這一數(shù)字比美光此前預(yù)期提前兩年。在可預(yù)見的未來，整個(gè)行業(yè)需求將大幅超過供應(yīng).....。


未來DRAM供應(yīng)與技術(shù)


“解決DRAM供應(yīng)問題有兩種方式：創(chuàng)新或建設(shè)更多晶圓廠，”Mkecon Insights的經(jīng)濟(jì)學(xué)家Mina Kim解釋道。隨著DRAM擴(kuò)展變得越來越困難，行業(yè)轉(zhuǎn)向了先進(jìn)的封裝技術(shù)......這只是用了更多的DRAM而已�！�

美光、三星和SK海力士合并占據(jù)了絕大多數(shù)的內(nèi)存和存儲(chǔ)市場，三者都在建設(shè)新的晶圓廠和設(shè)施。然而，這些措施不太可能對(duì)降低價(jià)格有實(shí)質(zhì)性貢獻(xiàn)。

美光正在新加坡建設(shè)一座HBM工廠，預(yù)計(jì)2027年投產(chǎn)。此外，它正在對(duì)從臺(tái)灣PSMC購買的一座工廠進(jìn)行改造，該廠將于2027年下半年開始投產(chǎn)。上個(gè)月，美光在紐約奧農(nóng)達(dá)加縣為DRAM制造廠區(qū)奠基。該產(chǎn)品要到2030年才會(huì)全面生產(chǎn)。

三星計(jì)劃于2028年在韓國平澤新工廠開始生產(chǎn)。

SK海力士正在印第安納州西拉斐特建設(shè)HBM和包裝設(shè)施，計(jì)劃于2028年底開始生產(chǎn)，其在清州的HBM工廠預(yù)計(jì)于2027年完工。

談及他對(duì)DRAM市場的看法，英特爾CEO陳立武上周在思科人工智能峰會(huì)上對(duì)與會(huì)者表示：“直到2028年才有緩解�！�

由于這些擴(kuò)張?jiān)跀?shù)年內(nèi)無法貢獻(xiàn)，需要其他因素來增加供應(yīng)。全球電子協(xié)會(huì)（前身為IPC）首席經(jīng)濟(jì)學(xué)家Shawn DuBravac表示：“現(xiàn)有DRAM領(lǐng)導(dǎo)者逐步擴(kuò)產(chǎn)、先進(jìn)包裝的良率提升以及供應(yīng)鏈更廣泛的多元化，將帶來緩解。新晶圓廠的出現(xiàn)會(huì)帶來一定幫助，但更快的成果將來自工藝學(xué)習(xí)、更好的DRAM堆疊效率，以及內(nèi)存供應(yīng)商與AI芯片設(shè)計(jì)師之間更緊密的協(xié)調(diào)�！�

那么，一旦這些新工廠投產(chǎn)，價(jià)格會(huì)下降嗎？別指望。“總體來說，經(jīng)濟(jì)學(xué)家發(fā)現(xiàn)價(jià)格下降的速度遠(yuǎn)慢且不情愿地上漲。Kim說：“鑒于對(duì)計(jì)算量的無限需求，DRAM如今不太可能成為這一普遍觀察的例外�！�

與此同時(shí)，技術(shù)正在研發(fā)中，可能使HBM成為硅的更大消費(fèi)者。HBM4的標(biāo)準(zhǔn)可容納16個(gè)堆疊的DRAM芯片，盡管如今的芯片只使用12個(gè)芯片。達(dá)到16級(jí)很大程度上取決于芯片堆疊技術(shù)。通過硅、焊料和支撐材料組成的HBM“層狀蛋糕”傳導(dǎo)熱量，是提升頻率和重新定位HBM在封裝內(nèi)以獲得更大帶寬的關(guān)鍵限制。

SK海力士聲稱通過一種名為MR-MUF（質(zhì)量回流成型底填）的制造工藝，在熱傳導(dǎo)方面具有優(yōu)勢。更遠(yuǎn)處，一種稱為混合鍵合的芯片疊加技術(shù)可以通過將芯片間垂直距離基本降至零來幫助熱傳導(dǎo)。2024年，三星的研究人員證明他們可以通過混合鍵合成16高的堆疊，并表示20個(gè)芯片并非遙不可及。（鐠元素）

剪報(bào)來源
https://spectrum.ieee.org/dram-shortage