![](/simg_thumbs/columns/94d15dc543d8cd7e.png)
生成式AI帶動邊緣運算,異質整合需求大增- 談先進封裝
2023.09/25
|
產業趨勢探勘
- ChatGPT掀起生成式AI熱潮,隨著生成式AI應用普及,對算力需求出現爆發性成長,網路科技巨頭對高效能運算需求增加,因此節省算力成本的混合型AI架構成為CP值更高的基礎建設解決方案。
- 混合型AI架構不是只在雲端進行運算處理,而是在雲端與邊緣(終端)裝置之間分配,協調運算工作負載,擴展並充分發揮算力。 混合式AI不只可利用終端裝置中的算力來降低成本,更能在全球範圍提供效能、個人化、隱私及安全方面額外的優勢。
- 混合型AI幾乎適用於所有生成式AI應用和裝置類型,包括手機、筆電、MR、汽車及物聯網。可從事安全辨識、瑕疵檢測、商品識別,或提供自駕車、無人機甚至聊天機器人等不同的應用服務。
- 隨著晶片效能的增進與AI模型精簡等技術成熟,AI應用也從原先只能在雲端進行,得以落地到設備端,而基礎設施(如網通傳輸)的成熟度提升,將有助AI邊緣運算進一步與產業結合。
- 邊緣運算將隨著對雲端式生成式AI的需求而帶動,透過終端的AI運算能夠緩解雲端的資料收集以及運算即時的壓力,邊緣的運算也能避免所有資料傳送到雲端,藉此提升資安的保護力。
- 根據Business insider 資料顯示,2022年,AI 邊緣運算市場僅156億美元,但在未來七年之內,到了2029年,會呈現35.7%年複合成長率,來到1074.7億美元市場規模,是相當驚人的成長幅度,因此受到高度矚目。
- 由於現有AI晶片架構無法滿足邊緣運算需求,使得異質整合晶片的需求應運而生,例如以小晶片(Chiplet)的異質整合架構設計(把各種功能晶片整合在同一個封裝中),透過更高效的晶片整合方式與封裝技術,有效提升整體運算效能與可靠性。異質整合透過在系統級封裝中整合多項異質運算晶片,解決效能、功耗及設計彈性上的問題,兼顧能耗及成本。
- 發展小晶片的關鍵技術,主要可分為「晶片互聯」以及「先進封裝」等兩大構面,本篇將著重在「先進封裝」層面。
先進製程發展趨緩,異質整合技術成為延續摩爾定律關鍵
- 前述提及,由於晶片微縮的難度日益提高,異質整合成為目前半導體產業的技術發展共識,將多個異質性晶片整合在同一個封裝中,包括邏輯電路、射頻電路、微機電、感測器等,並以封裝技術實現其間的互聯性,提升系統效能、功耗表現與成本效益可延長摩爾定律的推進,讓半導體產業持續前進,也是未來高效運算及物聯網多元終端應用的重要關鍵技術。
- 相較於晶片本身的設計與製造,異質整合封裝的核心關鍵技術主要是先進的封裝技術,由於半導體產業鏈中包括IC設計、電子設計自動化(EDA)、半導體製程、材料、設備相當多元,需要在異質整合封裝中加以整合,因此各半導體大廠共同籌組了產業聯盟UCIe (Universal Chiplet Interconnect Express),積極推動晶片間傳輸規範的標準化,除了可降低設計成本,也能讓不同廠商、代工廠的晶粒能在單一封裝內整合。
- 由於AI產品對晶片封裝內不同電路訊號傳輸路徑更小、更大頻寬與更低耗電需求日益增加,異質整合技術將有助於讓晶片尺寸縮小、並解決雜訊與散熱問題,也可以在高度整合下同步降低成本,可以說高階晶片異質整合技術的發展,將是AI能否持續發展的重要環節。
- 跟過往垂直分工的模式有所不同,晶圓代工廠(Foundry)以及專業封測廠(OSAT)均有可能投入異質整合技術的發展,因此很有可能讓上下游廠商之間的競合關係發生變化,甚至重新洗牌。
- 目前台廠中除了晶圓代工廠本身之外(以台積電發展的CoWoS為代表),有在發展異質整合封裝技術的封測廠商包括日月光投控、力成、京元電子、矽格等。
異質整合封測相關台廠剖析點評
公司 |
發展近況 |
日月光投控 |
|
力成 |
|
京元電子 |
|
矽格 |
|
台星科 |
|
GoldON投資方向思考
- 過往半導體產業鏈的價值分配中,由於多以晶片微縮技術為主軸,因此封裝測試通常是被認定為價值較小的區塊,雖然廠商獲利能力良好,但被市場給予的股價及評價通常較低。然而由於邁入異質整合時代,關鍵技術將落在封裝環節,因此未來封測廠若能獨立發展出高階封裝技術並切入異質整合業務,技術層面的提升將有效帶動評價的上升,換言之,未來半導體產鏈的價值分配板塊,將可能從只重視晶片設計及製造,逐步也往封裝方面移動。
- 在AI晶片需求爆發下,先進封裝與封測為異質整合提供關鍵技術,也促進了Edge AI的發展,因此封測廠也將因為邊緣運算而受益,不論是單價和毛利都大幅提升,同時技術門檻也大幅提高,進而拉高先進封測廠的市場評價。
- 台灣大部分封測廠尚未切入先進封裝,只有少數如日月光、京元電、矽格、台星科等提早布局異質整合技術,進而能夠在AI晶片早期爆發時間即能快速切入市場,一般預估未來Edga AI仍有五年以上的成長爆發期,未來每個端點都需要AI運算,因此未來先進封裝將在成本和效能優勢之下,席捲下一階段的AIOT市場。
關於本篇
前驅投資週報2023-024
Processor: Shawn Hung
Hunter: Shawn Hung