近日，英偉達(dá)官宣了其“地表最強(qiáng)AI芯片”H200，支撐這一稱號(hào)需要兩大關(guān)鍵技術(shù)：即臺(tái)積電主導(dǎo)的CoWoS高端封裝和頭部存儲(chǔ)廠持續(xù)迭代的HBM（高帶寬存儲(chǔ)）。
根據(jù)英偉達(dá)方面透露，相比上一代A100和H100，H200主要變化便在于內(nèi)存，其成為首款采用HBM3e（高頻寬存儲(chǔ)器）的GPU。
業(yè)內(nèi)普遍預(yù)計(jì)，AI芯片演進(jìn)有望拉動(dòng)存儲(chǔ)需求，HBM也將成為明年為DRAM（動(dòng)態(tài)隨機(jī)存取內(nèi)存）大廠貢獻(xiàn)營收的主力。
近兩日，A股存儲(chǔ)概念股集體異動(dòng)。其中為HBM巨頭SK海力士代理產(chǎn)品銷售的香農(nóng)新創(chuàng)在15日一度漲逾18%。近兩個(gè)交易日內(nèi)，其股價(jià)漲幅高達(dá)18.69%。另外，協(xié)創(chuàng)數(shù)據(jù)15日也收漲13.43%，萬潤科技在兩個(gè)交易日內(nèi)也漲逾10%。
突破帶寬瓶頸
當(dāng)?shù)貢r(shí)間11月13日，英偉達(dá)宣布在AI芯片H100的基礎(chǔ)上，發(fā)布新一代H200芯片?；贛eta的Llama 2大模型的測試表明，H200的輸出速度大約是H100的兩倍。另外，H200在推理速度上幾乎達(dá)到了H100的兩倍，帶寬增加了2.4倍。
而相比上一代A100和H100，H200主要變化在于內(nèi)存，成為首款采用HBM3e（高頻寬存儲(chǔ)器）的GPU，使得帶寬從H100的每秒3.35TB提高至4.8TB，提高1.4倍，存儲(chǔ)器總?cè)萘繌腍100的80GB提高至141GB，容量提高1.8倍，同時(shí)推理能耗大幅降低。
資料顯示，HBM（High Bandwidth Memory）即高帶寬存儲(chǔ)器。HBM屬于圖形DDR內(nèi)存的一種，通過使用先進(jìn)的封裝方法垂直堆疊多個(gè)DRAM，與GPU通過中介層互聯(lián)封裝在一起，在較小的物理空間里實(shí)現(xiàn)高容量、高帶寬、低延時(shí)與低功耗，已成為數(shù)據(jù)中心新一代內(nèi)存解決方案。
英偉達(dá)創(chuàng)始人黃仁勛曾表示，計(jì)算性能擴(kuò)展的最大弱點(diǎn)就是內(nèi)存帶寬。以谷歌第一代TPU為例，其理論算力值為90TFOPS，但最差真實(shí)值僅1/9，即10TFOPS算力，因?yàn)槠湎鄳?yīng)內(nèi)存帶寬僅34GB/s。
此外，在傳統(tǒng)架構(gòu)下，數(shù)據(jù)從內(nèi)存到計(jì)算單元的傳輸功耗是計(jì)算本身能耗的約200倍，而用于計(jì)算的能耗和時(shí)間占比很低，數(shù)據(jù)在內(nèi)存與處理器之間的頻繁遷移帶來嚴(yán)重的功耗問題。
據(jù)Trend Force集邦咨詢研究指出，當(dāng)前HBM市場主流為HBM2e，包含英偉達(dá) A100/A800、AMD MI200以及多數(shù)云服務(wù)廠商自研加速芯片皆以此規(guī)格設(shè)計(jì)。
而作為AI芯片追趕者的AMD，對于HBM的使用也較為激進(jìn)，其最新發(fā)布的MI300X GPU搭載容量高達(dá)192GB的HBM3顯存，為H100的2.4倍，其內(nèi)存帶寬達(dá)5.2TB/s，為H100 的1.6倍。HBM正成為AI加速器芯片軍備競賽的核心。
三年市場規(guī)模料翻2.5倍
方正證券一份研報(bào)提及，2023年主流HBM從HBM2e升級為HBM3甚至HBM3e，HBM3比重預(yù)估約為39%，2024年則會(huì)提升至60%。
根據(jù)集邦咨詢最新預(yù)測，全球HBM生產(chǎn)總量有望翻倍增長，成為貢獻(xiàn)2024年DRAM大廠營收“重頭戲”。方正證券也提及，2022年全球HBM市場規(guī)模約為36.3億美元，預(yù)計(jì)至2026年市場規(guī)模將達(dá)127.4億美元。
為順應(yīng)AI加速器芯片需求演進(jìn)，各原廠計(jì)劃于2024年推出新產(chǎn)品HBM3e，預(yù)期HBM3與HBM3e將成為明年市場主流。據(jù)了解，當(dāng)前HBM市場仍由三家大廠主導(dǎo)，2022年全年，SK海力士占50%，三星占40%，美光占10%。
近期，三星、美光等存儲(chǔ)大廠正在不斷加快擴(kuò)產(chǎn)步伐。
市場份額最大的SK海力士早在2021年10月率先發(fā)布HBM3，今年4月實(shí)現(xiàn)了全球首創(chuàng)12層硅通孔技術(shù)垂直堆疊芯片，容量達(dá)到 24GB，比上一代HBM3高出50%，SK海力士計(jì)劃在 2023年年底前提供HBM3e樣品，并于2024年量產(chǎn)，其目標(biāo)2026年生產(chǎn)HBM4。
實(shí)際上，作為龍頭，由于DDR5、HBM的需求強(qiáng)勁，SK海力士用于AI服務(wù)器的DRAM銷售額已經(jīng)出現(xiàn)大幅增長趨勢。該公司今年三季度收入6.08萬億韓元，環(huán)比增加34.3%，出貨量環(huán)比增長20%。要知道整體來看，存儲(chǔ)芯片當(dāng)前仍未走出“寒冬”。
為應(yīng)對HBM市場需求，三星電子已從三星顯示購買新建筑物和設(shè)備，用于建設(shè)新HBM封裝線，總投資額達(dá)到7000-10000億韓元。有消息稱，三星電子打破了SK海力士為英偉達(dá)獨(dú)家供應(yīng)HBM3的局面，該公司計(jì)劃從明年1月開始向英偉達(dá)提供HBM3。
而美光在此前的財(cái)報(bào)電話會(huì)議上表示將在2024年通過HBM3e實(shí)現(xiàn)追趕，預(yù)計(jì)其HBM3e將于2024年三季度或者四季度開始為英偉達(dá)的下一代GPU供應(yīng)，初期產(chǎn)品設(shè)計(jì)為24GB 8-Hi堆棧，帶寬超1.2TB/s，計(jì)劃之后推出更大容量版。
存儲(chǔ)概念股聞風(fēng)而動(dòng)
相對于HBM三大巨頭，國內(nèi)產(chǎn)業(yè)鏈目前整體位置較為邊緣。不過，在二級市場上，相關(guān)概念股股價(jià)依然聞風(fēng)而動(dòng)。
其中為HBM巨頭SK海力士代理的香農(nóng)新創(chuàng)在15日一度漲逾18%，近兩個(gè)交易日內(nèi)，其股價(jià)漲幅高達(dá)18.69%。據(jù)了解，該公司目前約95%的營收來自于電子元器件分銷業(yè)務(wù)，分銷產(chǎn)品為應(yīng)用于服務(wù)器級別的存儲(chǔ)芯片。
該公司近期在互動(dòng)平臺(tái)中提到，其目前主要代理產(chǎn)品是SK海力士的存儲(chǔ)器及MTK聯(lián)發(fā)科的主控芯片，前者與后者的比例大致在80%和20%。在存儲(chǔ)器中，DRAM占比約70%，NAND和SSD業(yè)務(wù)占比約30%。
不難看出，與SK海力士的合作關(guān)系引起了市場遐想。另外，雅創(chuàng)電子15日也透露，該公司全資子公司W(wǎng)E主要代理海力士的存儲(chǔ)器，而上述產(chǎn)品后續(xù)將作為未來布局的重點(diǎn)方向。
而在國產(chǎn)存儲(chǔ)廠商方面，由于存儲(chǔ)行業(yè)話語權(quán)仍由海外大廠主導(dǎo)，多數(shù)國內(nèi)廠商業(yè)務(wù)仍聚焦于中低端產(chǎn)品，但也正在發(fā)力企業(yè)級存儲(chǔ)產(chǎn)品，布局算力服務(wù)器市場。
佰維存儲(chǔ)最新在互動(dòng)平臺(tái)表示，該公司的企業(yè)級SSD和服務(wù)器內(nèi)存條可應(yīng)用于算力服務(wù)器，目前該類產(chǎn)品出貨占公司總營收較小。據(jù)悉，該公司高端的存儲(chǔ)芯片包括用于智能手表、AR/VR等旗艦穿戴產(chǎn)品ePOP存儲(chǔ)芯片，面向中高端手機(jī)的UFS3.1、LPDDR5、uMCP存儲(chǔ)芯片等。
江波龍方面在機(jī)構(gòu)調(diào)研時(shí)則表示，公司的企業(yè)級存儲(chǔ)產(chǎn)品組合中，eSSD產(chǎn)品和RDIMM產(chǎn)品主要用于服務(wù)器為主的高端企業(yè)級應(yīng)用場景。據(jù)該公司透露，其eSSD、RDIMM 產(chǎn)品已經(jīng)通過包括聯(lián)想、京東云、BiliBili等重要客戶的認(rèn)證，并且已經(jīng)取得了部分客戶的正式訂單實(shí)現(xiàn)了量產(chǎn)出貨。
主力資金加倉名單實(shí)時(shí)更新，APP內(nèi)免費(fèi)看>>
（文章來源：中國基金報(bào)）
聯(lián)系客服
