續盈有限公司

AI伺服器需求急升，帶動記憶體成長

2023.06/06

|

產業趨勢探勘

  1. 隨著ChatGPT於2023年使用人數在短短一個月突破一億，各網路巨頭為爭奪更大的生成式AI網路服務市場，相繼推出基於生成式AI的產品服務，也必須要購買更多的AI伺服器。TrendForce預估2023年全球AI伺服器出貨量近120萬台，雖然占整體伺服器出貨量只有近9%，但年增幅高達38.4%，預計2026年將占15%，因而上修2022年到2026年的出貨量年複合成長率至22%，成為2023年科技產業中少數逆勢成長的產品。
  2. AI伺服器將近40%的年成長幅度，將進一步驅動龐大的記憶體需求，一般的Server DRAM大約配置500-600GB，而AI伺服器平均配置容量可達1.2-1.7TB之間。例如為了能有更強大的平行運算能力，Nvidia最新一代的「DGX GH200」系統搭載的記憶體容量是前一代「DGX A100」系統的將近500倍，其容量成長幅度相當驚人。
  3. 相較於一般伺服器，AI伺服器因為增加了許多GPGPU，而GPGPU本身就包含HBM記憶體來協助運算，因此以NVIDIA A100 80GB配置四張或八張卡採計，HBM用量約為320～640GB。
  4. 由於AI伺服器追求的算力更高，故要求優先提升DRAM或HBM(高頻寬記憶體)的容量，對SSD(NAND flash)容量需求雖有但並沒有太急迫的提升。
  5. 未來在AI模型逐漸大型化的趨勢下，將刺激更多的記憶體用量，包括推升伺服器DRAM容量達2.2～2.7TB、企業用SSD容量倍增至8TB、及HBM的搭載容量亦倍增至512～1024GB。
  6. 以這樣的趨勢來看，記憶體新一波的上升週期將會發生在2024年，由AI伺服器與車用電子引領其高速成長。AI伺服器相較目前傳統伺服器需要3～8倍DRAM記憶體容量、1.5倍的SSD記憶體容量；而自駕車所需的DRAM、NAND flash晶片，分別是傳統車的30倍、100倍。

 

各大記憶體巨頭宣布減產，報價將有望觸底

  1. 2022年因為通膨壓力影響，PC、手機需求持續低迷，造成DRAM價格從去年第四季暴跌34.4％；資料中心和企業客戶的NAND flash分別下跌27.7％和32％，為2008年以來最大跌幅。
  2. 記憶體價格大跌造成記憶體廠商庫存過高及巨額虧損，為了要進一步減少虧損，美光去年11月宣布降低今年度資本支出並減產，全球第二大記憶體製造商海力士也在去年十二月底宣布減產。全球最大記憶體製造商三星電子，其全球市占率超過43％，第一季獲利比去年同期大減96％。為了進一步降低虧損守住報價，三星也決定要加入減產行列。記憶體大廠紛紛減產效應，已讓記憶體價格在第一季的降價幅度開始縮減，其今年Q1的DRAM價格跌幅度約在13～18％。
  3. 三星和海力士在全球記憶體市占率總和高達66％，過去南韓記憶體大廠為了搶奪市占率，不惜殺價以逼迫其他國家競爭者不堪虧損而淡出市場，然而這次連三星也首度加入減產行列，顯見整體行業遭遇的衝擊之深。
  4. 根據歷史數據統計，記憶體供給逐漸減少一至二季後，記憶體價格可望有反彈。因此在三星也加入減產後，全球的記憶價格有機會在第二、三季期間落底，並且股價出現試圖築底的跡象。
  5. 記憶體價格在龍頭記憶體廠減產下加速築底，市占第一的三星Q2 DRAM 出貨量估計將增 加15 至 20％，扭轉第一季季減 10％。市佔第二的海力士估第二季出貨量反而增加30 至 50％，遠高於市場預期的 20％。龍頭記憶體廠減產降低庫存使DRAM市場供過於求開始出現反轉。下半年在AI 的新增需求帶旺記憶體市場下，記憶體(尤其是DRAM，因為AI伺服器所用的HBM記憶體就是以DRAM為基礎)價格很有機會開始反彈。

 

記憶體相關台廠頗析點評

產業

公司與近況

DRAM

南亞科

  • 南亞科短期不會將生產重點放在GPGPU所需要的HBM，然而三星與海力士除了減產來挽救報價外，還將產能移轉到爆發性成長的HBM上，因此一般DRAM將有機會供需反轉，南亞科可能因而受益。

華邦電

  • 發展重點在中階運算力產品而非HBM，全新開發的 4-8GB 的 3D TSV DRAM (CUBE; 客製化高頻寬記憶體)，採用20 奈米製程，華邦電預計將以此技術協助客戶SoC 設計與 2.5D/3D 後段製程封裝連結。
  • 華邦電未來將與 SoC 廠、封裝廠三方合作，、預計 2024 年量產，主要應用在 HPC、伺服器、AI、邊緣運算等領域。

IP

愛普

  • 愛普自行發展的VHM(3D異質整合高頻寛記憶體)要比現行的HBM帶寬提高10倍，目標要達到100倍的水準。
  • 目前已有加密貨幣SoC以VHM為基礎進行開發，著重在性能跟功耗的改善，估明年量產後有助wafer sale進一步的成長；另外也有新的HPC的客戶，最先進已推進到12奈米以下的製程，估短期以挖礦客戶貢獻wafer sale，HPC則會明年加入。
  • 目前AI 事業部約占整體營收 10-15%，目前應用還在初期驗證階段，若進入量產營收貢獻將大幅增加，長期目標占比衝破 5 成，且毛利比 IoT 事業高。

IC設計

鈺創

  • 從原本的DRAM控制IC出發，切入邏輯+DRAM異質整合，旗下異質性整合AI+DRAM平台，採用WLCSP微型封裝技術，體積小且支援高頻寬，符合AI世代微型終端裝置的需求。

群聯

  • 搶攻AI用途的高速資訊傳輸與儲存市場，推出PCIe 5.0高速解決方案，隨著PCIe Gen 5.0的推展，應用在伺服器等領域，待產品出貨放量，對群聯的毛利率也將有所幫助。

模組

宜鼎

  • 宜鼎的產品應用包含AI、伺服器、車用等多項熱門領域，AI為公司長期發展目標，公司2022年在AI及AIoT(智慧物聯網)領域的營收佔比約為20%，宜鼎規劃長期會將AI領域營收比重提升至30-35%，持續擴張AI版圖。
  • 攜手NVIDIA打造新一代AI視覺解決方案；結合NVIDIA的AI架構與其子公司安提的SuperEdge高算力AI訓練平台，鎖定智慧製造場域、推升傳統AOI檢測效能。將NVIDIA Metropolis與SuperEdge平台導入興建中的二期研發製造中心，佈建嶄新AI智能產線，並作為NVIDIA Metropolis全球示範場域。
  • 宜鼎DDR5 RDIMM除具備雙溫度感應器，更能搭配宜鼎自行開發的iCAP及iSMART管理軟體，透過雲端技術掌握模組溫度變化，進行即時監控、預先示警，在長時間高速演算的AOI系統中，避免高溫生熱而影響檢測效能。

凌航

  • 2022已成功通過與戴爾DELL PowerEdge RX650 和 RX750系列伺服器跨驗認證。凌航科技開始為全球企業級與工業級合作夥伴提供 Neo Forza 工業級伺服器記憶體RDIMM，8GB~32GB，支援DDR4 2133MT/s 至 3200MT/s。
  • 已經在 2022 年第二季度推出 DDR5 工業級伺服器記憶體，目前正在與數據中心/工業級伺服器合作夥伴進行跨認證。
  • 由SECO開發的IoT-AI平臺”CLEA”並可選用搭載淩航記憶體方案之端到端硬體，服務現有和潛在之工控與物聯網客戶。
  • 透過凌航在記憶體上的專業能力，能為亞太區客戶提供了企業升級智能邊緣運算所需的記憶體解決方案。

 

GoldON投資方向思考

  1. 記憶體群族在去年2022年消費性電子需求急速衰退之下，導致庫存紛紛創歷史新高，在各個龍頭記憶體大廠受不了庫存壓力和報價下跌等雙重壓力下，紛紛提出減產讓虧損能降到最低。然而過往經驗減產的效應仍需市場2-3季才能夠浮現，在三星於2023第二季宣布減產後，2023下半年將有機會看到記憶體價格回穩，因此記憶體產業本身景氣的谷底以及股價的落底，可以期待。
  2. 隨著ChatGPT今年爆紅引爆生成式AI的市場，各家科技巨頭紛紛加速AI的開發進程，也帶動了AI伺服器的成長，並且帶旺相關記憶體，儘管AI伺服器記憶體占整體市場不到10%，然而卻也讓市場看到整體記憶體市場仍有新增需求的成長空間，因此在記憶體加速趕底後，將有望靠著AI讓記憶體市場重新迎來上行週期。
  3. 在整個記憶體市場中，工控為使用量最大的領域，隨著AI應用導入自動化工廠，需要更多的記憶體來協助AI運算，提升工廠良率同時降低人力需求，至於消費性電子筆電和手機仍處在下行週期，儘管報價到達谷底，但要重回成長可能還需等AI進入筆電和手機，才有機會藉由邊緣運算掀起換機潮並帶動消費性記憶體成長。
  4. 記憶體最大的容量需求仍是在伺服器上，然而邊緣AI也隨著雲端AI的火紅雨露均霑，儘管邊緣AI所需的記憶體容量不大，但因為邊緣運算的裝置數量龐大，未來在邊緣運算普及有望可以帶動相關記憶體IC廠商。
  5. 總結來說，記憶體市場落底明確(底部有撐)，AI帶動的記憶體新增需求已經明確，並將從雲端出發逐步往邊緣/終端擴散，需求將持續釋放(成長動能浮現)。

 

關於本篇

前驅投資週報_2023-014

 

Processor:    Shawn Hung

Hunter:         Shawn Hung

返回上一頁