續盈有限公司

生成式AI帶動邊緣運算，異質整合需求大增- 談先進封裝

2023.09/25

|

產業趨勢探勘

  1. ChatGPT掀起生成式AI熱潮，隨著生成式AI應用普及，對算力需求出現爆發性成長，網路科技巨頭對高效能運算需求增加，因此節省算力成本的混合型AI架構成為CP值更高的基礎建設解決方案。
  2. 混合型AI架構不是只在雲端進行運算處理，而是在雲端與邊緣(終端)裝置之間分配，協調運算工作負載，擴展並充分發揮算力。 混合式AI不只可利用終端裝置中的算力來降低成本，更能在全球範圍提供效能、個人化、隱私及安全方面額外的優勢。
  3. 混合型AI幾乎適用於所有生成式AI應用和裝置類型，包括手機、筆電、MR、汽車及物聯網。可從事安全辨識、瑕疵檢測、商品識別，或提供自駕車、無人機甚至聊天機器人等不同的應用服務。
  4. 隨著晶片效能的增進與AI模型精簡等技術成熟，AI應用也從原先只能在雲端進行，得以落地到設備端，而基礎設施(如網通傳輸)的成熟度提升，將有助AI邊緣運算進一步與產業結合。
  5. 邊緣運算將隨著對雲端式生成式AI的需求而帶動，透過終端的AI運算能夠緩解雲端的資料收集以及運算即時的壓力，邊緣的運算也能避免所有資料傳送到雲端，藉此提升資安的保護力。
  6. 根據Business insider 資料顯示，2022年，AI 邊緣運算市場僅156億美元，但在未來七年之內，到了2029年，會呈現35.7%年複合成長率，來到1074.7億美元市場規模，是相當驚人的成長幅度，因此受到高度矚目。
  7. 由於現有AI晶片架構無法滿足邊緣運算需求，使得異質整合晶片的需求應運而生，例如以小晶片(Chiplet)的異質整合架構設計(把各種功能晶片整合在同一個封裝中)，透過更高效的晶片整合方式與封裝技術，有效提升整體運算效能與可靠性。異質整合透過在系統級封裝中整合多項異質運算晶片，解決效能、功耗及設計彈性上的問題，兼顧能耗及成本。
  8. 發展小晶片的關鍵技術，主要可分為「晶片互聯」以及「先進封裝」等兩大構面，本篇將著重在「先進封裝」層面。

 

先進製程發展趨緩，異質整合技術成為延續摩爾定律關鍵

  1. 前述提及，由於晶片微縮的難度日益提高，異質整合成為目前半導體產業的技術發展共識，將多個異質性晶片整合在同一個封裝中，包括邏輯電路、射頻電路、微機電、感測器等，並以封裝技術實現其間的互聯性，提升系統效能、功耗表現與成本效益可延長摩爾定律的推進，讓半導體產業持續前進，也是未來高效運算及物聯網多元終端應用的重要關鍵技術。
  2. 相較於晶片本身的設計與製造，異質整合封裝的核心關鍵技術主要是先進的封裝技術，由於半導體產業鏈中包括IC設計、電子設計自動化(EDA）、半導體製程、材料、設備相當多元，需要在異質整合封裝中加以整合，因此各半導體大廠共同籌組了產業聯盟UCIe (Universal Chiplet Interconnect Express)，積極推動晶片間傳輸規範的標準化，除了可降低設計成本，也能讓不同廠商、代工廠的晶粒能在單一封裝內整合。
  3. 由於AI產品對晶片封裝內不同電路訊號傳輸路徑更小、更大頻寬與更低耗電需求日益增加，異質整合技術將有助於讓晶片尺寸縮小、並解決雜訊與散熱問題，也可以在高度整合下同步降低成本，可以說高階晶片異質整合技術的發展，將是AI能否持續發展的重要環節。
  4. 跟過往垂直分工的模式有所不同，晶圓代工廠(Foundry)以及專業封測廠(OSAT)均有可能投入異質整合技術的發展，因此很有可能讓上下游廠商之間的競合關係發生變化，甚至重新洗牌。
  5. 目前台廠中除了晶圓代工廠本身之外(以台積電發展的CoWoS為代表)，有在發展異質整合封裝技術的封測廠商包括日月光投控、力成、京元電子、矽格等。

 

異質整合封測相關台廠剖析點評

公司

發展近況

日月光投控
  • SIP異質整合是日月光深耕得領域，與台積電發顫更高效的3D Fabric技術鎖定客群較不一樣，SIP產品本身更具有設計彈性且成本較低，因此適合近幾年流行的IOT應用/5G多頻段等領域。
  • 旗下日月光半導體布局包括覆晶多晶片模組FCMCM（Flip Chip Multi-Chip Module）、2.5D & 3D IC 和扇出型基板上晶片封裝（FOCOS）等小晶片技術。
  1. 日月光集團在先進封裝領域推出VIPack平台，囊括了扇出型封裝（Fan-out）、矽光子共同封裝（CPO）、2.5/3D IC等，其中FOCOS也衍伸出如FOCoS-CL、FOCoS-CF等多種衍伸類型。

力成
  • 力成為全球第五大、台灣第三大封測廠，更是記憶體封測的領導者。目前已具備3D IC、TSV(矽穿孔)、FOPLP(面板級扇出型封裝)等先進技術。

京元電子
  • 主要提供前段晶圓測試及後段IC成品測試服務，測試項目包括邏輯IC、混合信號IC、記憶體IC、無線網路IC、驅動IC及IC預燒(BURN-IN)測試。公司也提供晶圓研磨切割及捲帶包裝等整合性服務。
  • 產品結構比重分別為晶圓測試服務35.41%、積體電路測試服務46.79%、其他17.8%。
  • 京元電主力兩大客戶Nvidia、AMD幾乎壟斷了全球高階GPU市場，兩大廠AI晶片測試需求噴發，讓京元電IC測試業務迎來爆發式成長。
  • 由於AI的崛起，2023年京元電的AI佔比預估約5-6%，目前AI測試領域客戶包含Nvidia、Google、賽靈思(Xilinx)等廠商。

矽格
  • 無線射頻IC (RF)的測試大廠，全球前十大IC設計公司中有六家都為其客戶，除聯發科(2454)外，還有立錡、矽成、瑞昱等。以產品組合來看，去年智慧手機約占4成多、消費電子、電腦及週邊各占近兩成，至於網通、車用醫療則分別占一成多、個位數。
  • 長期深耕手機與網通領域，但近年來因看好 AI/HPC 領域發展，也將部份資源用於開發 AI 晶片測試方案，將先前 5/4 奈米測試經驗複製至先進封裝，近期陸續開花結果，今年 CoWoS 製程測試案即可展開。
  • 車用晶片測試客戶以歐美系大廠為主，目前已通過第一家客戶認證，預期明年逐步放量，後續也還有 2-3 家客戶可望通過認證，成為未來營運成長動能之一。

台星科
  • 矽格子公司，營運主力為CPU/GPU封測業務。
  • 為了降低消費性晶片庫存修正風險，近來調整產品組合及產能配置，提高AI／HPC處理器接單並且建構多晶片模組等系統級封裝（SiP）技術及生產線。
  • 看好小晶片（chiplet）設計在先進製程主流趨勢，去年下半年已調整產能，提高5奈米及4奈米AI／HPC處理器的晶圓凸塊及測試的接單比重。
  • 近年投入高階矽光子封測領域，資料中心雲端運算需求爆炸成長下，使得矽光子以及共同封裝光學元件（CPO）成為產業焦點。

 

 

GoldON投資方向思考

  1. 過往半導體產業鏈的價值分配中，由於多以晶片微縮技術為主軸，因此封裝測試通常是被認定為價值較小的區塊，雖然廠商獲利能力良好，但被市場給予的股價及評價通常較低。然而由於邁入異質整合時代，關鍵技術將落在封裝環節，因此未來封測廠若能獨立發展出高階封裝技術並切入異質整合業務，技術層面的提升將有效帶動評價的上升，換言之，未來半導體產鏈的價值分配板塊，將可能從只重視晶片設計及製造，逐步也往封裝方面移動。
  2. 在AI晶片需求爆發下，先進封裝與封測為異質整合提供關鍵技術，也促進了Edge AI的發展，因此封測廠也將因為邊緣運算而受益，不論是單價和毛利都大幅提升，同時技術門檻也大幅提高，進而拉高先進封測廠的市場評價。
  3. 台灣大部分封測廠尚未切入先進封裝，只有少數如日月光、京元電、矽格、台星科等提早布局異質整合技術，進而能夠在AI晶片早期爆發時間即能快速切入市場，一般預估未來Edga AI仍有五年以上的成長爆發期，未來每個端點都需要AI運算，因此未來先進封裝將在成本和效能優勢之下，席捲下一階段的AIOT市場。

 

關於本篇

前驅投資週報2023-024

Processor:    Shawn Hung

Hunter:         Shawn Hung

返回上一頁