AI軟硬整合趨勢確立,科技巨頭爭相投入自研晶片

2023.08/25

|

產業趨勢探勘

  1. 在2021年晶片大缺貨的影響下,自研晶片被列為半導體行業十大熱門項目。無論是車用、手機還是網路大廠,都接二連三展開自研晶片開發,甚至於連地產、家電、百貨、水泥廠等企業也直接橫跨到科技業開始自研晶片。
  2. 科技巨頭Apple、Amazon、Google、Meta、微軟、特斯拉和百度等相繼投入開發自研晶片,不滿足於只能採用標準晶片,將AI晶片改由自家研發,一方面減少對傳統晶片設計廠商的依賴,另一方面亦可量身訂作所需的晶片功能及演算法。
  3. 上述這些科技大廠原本為英特爾、輝達等傳統晶片廠的客戶,但如今他們的規模已遠大於傳統晶片廠,並有實力自行研發晶片以求提高本身裝置性能和降低成本。這種趨勢為傳統IC設計廠帶來挑戰,並改變了業界的實力平衡,迫使傳統IC設計廠一改過去由客戶適應其通用型產品的作法,轉而為客戶製造更專業的ASIC晶片。
  4. 網路公司投入如此龐大的成本自研晶片,主要是配置在規模龐大的雲端伺服器,而為了能讓數億的網路用戶能夠使用,伺服器的性能至關重要,因此雲端AI晶片、伺服器CPU和GPU晶片就是其中的關鍵一環。
  5. AI的訓練和推理是一個簡單的重複過程,不用高複雜度的指令,用GPU或ASIC晶片代替CPU往往能事半功倍,目前AI應用的 GPU 價格昂貴,Nvidia H100 售價超過 1 萬美元,且因訂單量大增交貨週期加長,因此為了專門處理特定的AI運算任務所需的AI用ASIC晶片就此誕生,因為客製處理,在效能表現上會優於通用 GPU 的表現。目前各科技巨頭均開始著手投入自家 ASIC 晶片,減少對單一公司的過分依賴,加速 AI 模型訓練或推論的速度,包含了 Google、Meta 以及 Amazon 等公司。
  6. 車用晶片如特斯拉也投入開發自有晶片,透過電動車垂直領域的掌控,利用高度軟硬體整合建立差異化,目前其所開發的自駕技術(介於Level 2~3之間),正是與競爭對手最大的差異化。然而龐大、複製的AI演算法,需要有相匹配的晶片配合,外部供應商通常趨於通用配置,很難優化。因而迫使特斯拉開發專屬的ASIC晶片,包含了12個CPU,一顆GPU,2顆NPU (每顆算力36.86 TOPS),以拉大與其他車廠之間的差異。
  7. 目前AI ASIC晶片的應用以雲端運算、安防、機器人與車用居多,2023年將逐步進入高成長期,特別是由雲端運算、車用兩大領域引領市場快速成長,預計到2025年,全球AI晶片市場規模有望達到740億美元,2022~2025年CAGR將達到23.8%。

 

先進製程設計複雜,矽智財扮演關鍵角色

  1. 隨著半導體製程越來越精密,IC設計多是走向系統單晶片(SOC)的模式,讓客戶有更多整合的空間,也可以讓客戶在最短的時間內介入應用。然而,SOC內部的電晶體密度愈大、線路佈局與功能愈趨複雜,不但讓IC設計的困難度越來越高,設計所需要的時間也越來越長。
  2. AI產業的快速發展,加劇了晶片設計的複雜程度,也拉升對IP(矽智財)的需求,加上先進製程的需求比例拉升,藉以解決高階IC晶片製程面臨的高複雜度難題,拓寬產品的應用層面,故而順勢讓IP設計應用更加廣泛。
  3. 在開發新晶片時若客戶需要加入新功能,可直接向 IP 設計業者購買授權後使用,而不需要全部從頭自行設計,讓功能越來越複雜的 IC 設計過程得以簡化,並有效減少開發成本、縮短開發週期和提高產品良率。
  4. IP業者除了授權其IP之外,因為有越來越多品牌科技大廠自行研發晶片的需求,IP業者也可以提供晶片設計的服務,協助產品規格制定、開發、驗證,亦即委託設計(NRE),甚至延伸到後續的製造、生產等階段,也就是所謂一站式方案( Turn-Key)。
  5. 依照上述業務型態,IP 公司的營收來源主要來自NRE服務收入、Turn-Key銷貨收入,以及IP 的授權金和權利金,其中,NRE 毛利率(約 30-50%)通常高於 Turn-Key(一般約 15-25%,但也有低於 10% 的產品),但由於客戶後續請求IP業者代為投片的比例通常很高,因此營收量體主要則是由 Turn-Key 所貢獻。
  6. 由於AI崛起,讓台積電先進製程供不應求,科技大廠過去和台積電長期合作經驗較少,因此若是要自研晶片通常較難取得台積電的產能,唯有透過矽智財廠的Turn-Key才能順利投片量產,也可以說,由於矽智財廠掌握了先進製程的產能,因此讓Turn-Key營收量體遠大於其他營收。
  7. 全球矽智財產業 2022-2028 年預計以 CAGR+5% 速度成長,但隨著半導體製程往 3奈米 以下發展、單一晶片上承載的功能越加複雜,故IC設計的難度只會越來越高,IC 設計公司需投入的研發費用勢必也將增加,因此NRE費用、IP授權金和授權金也會隨著先進製程費用的提高而跟著上漲,讓IP廠的成長性持續提升。

 

 

 

矽智財相關台廠剖析點評

配合晶圓代工廠

公司與近況

台積電

創意

  • 台積電子公司,受惠於母公司技術及產能奧援,先進製程順利推進至5奈米及3奈米,並推出InFO及CoWoS先進封裝整合方案,藉此擴大人工智慧及高效能運算市場。
  • 創意亦整合了台積電5奈米先進製程及2.5D先進封裝,為客戶打造大規模雲端資料中心的AI/HPC運算用ASIC,並已完成設計定案,至於支援3奈米N3E製程並整合HBM 3及GLink IP的測試晶片亦在第一季完成設計定案。也為客戶完成7奈米及16奈米工作站等級的光通訊晶片,可供超大型資料中心使用並會在今年進入量產。
  • NRE業務因為有兩間客戶的 N5消費性電子專案延後,影響到下線時程,故延後到明年認列,因此今年營收展望有所下滑。

 

M31

  • M31過去兩年已完成3奈米IP設計並獲客戶採用。隨著3奈米晶片設計定案數量激增及投片量逐季放大,M31可望直接受惠並為營收帶來挹注。
  • 由於5G及AI等對運算速度有高度要求,讓美系客戶加快高速傳輸介面IP規格升級及製程微縮進程,有助於3奈米和5奈米開案量的提升。
  • 在終端應用方面,除了打進雲端及邊緣AI應用,車用晶片IP也已通過安全技術標準認證並獲得美日一線車用晶片大廠訂單。

 

世芯-KY

  • 領先同業率先完成3奈米N3E製程AI/HPC測試晶片設計定案,並提供CoWoS先進封裝設計及投產服務。
  • NRE接案維持暢旺,手中已有數個NRE專案開始採用5奈米及3奈米先進製程,且幾乎都是AI/HPC應用領域。至於今年ASIC量產部分,主要營收貢獻由7奈米轉到6奈米及5奈米,3奈米預計會在2024年帶來明顯營收挹注。
  1. 已提供最先進的台積電4奈米N4P製程、3奈米N3E製程的NRE服務,而最關鍵的互聯IP已可支援最先進製程,包括APlink 4.0互聯IP,可支援5奈米家族的N5及N4P製程,新一代APlink 5.0與小晶片互聯標準UCIe 1.0規格相容並支援N3E製程。

聯電

智原

  • 智原花了三年時間在三星 14 奈米上布建 IP,藉著自行開發之14奈米先進製程IP解決方案及系統單晶片開發平台,已在今年第二季順利推進至先進製程並獲得國際客戶14奈米系統單晶片ASIC開案,進一步擴大AI應用版圖。
  • 上述的新事業僅限於提供14 奈米以下製程的服務,至於 22/28 奈米、甚至以上的製程,仍維持既有的商業模式,也就是客戶在智原下單後,會在聯電投片生產。
  1. 在先進封裝領域除了已接獲 2.5D 案件之外,3D 先進封裝也與記憶體廠合作,並在聯電生產,也接獲了 28 奈米案件。

力積電

愛普

  • 近年來積極透過客製化DRAM及其開發出來的VHMLInK晶片互聯IP,目標取代HPC處理器中成本居高不下的HBM記憶體方案,如今已獲得美國及韓國AI處理器國際半導體大廠青睞及採用。
  • 由於AI都要用到大量的記憶體,愛普的異質整合高頻寬記憶體也是目前市場上最佳產品,隨著AI趨勢升溫,未來其AI事業營收占比長期將逐步達到5成。
  • 愛普與台積電及力積電合作,整合55奈米邏輯晶片及38奈米DRAM的以太幣挖礦機處理器的WoW先進封裝堆疊已量產,在3DIC先進封裝IP已通過認證並可量產,可說已完成了技術驗證,將能更快速導入AI應用場域。

不分製程

晶心科

  • 以RISC-V IP為主力。
  • 目前營收占比為授權金約佔56%,權利金約佔24%,維護收入約佔20%,未來AI應用佔整體授權金比重應會達到35%左右,目前除了已經公開的Meta之外,還手握不少其他美系AI客戶的專案。
  • 未來更多客戶在邊緣設備中採用RISC-V IP啟用人工智能相關功能,將讓RISC-V產品在AI趨勢下,滲透率將更高。

 

力旺

  • 記憶體IP為主,5 奈米設計案件的授權需求相當熱絡,且客戶涵蓋多種領域,包括自動駕駛、數據中心與 AI 等領域,同時也與眾多客戶在多家代工廠開發 3 奈米。
  • 目前 市場上的AI 伺服器中,已有部分的晶片採用了力旺的IP,像是 SSD controller、CXL controller/Retimer、PMIC、SPD Hub 等,雖然GPU、CPU 尚未導入,但等3 奈米 OTP 驗證後,尤其客戶若採用 Arm 架構,力旺獲得採用的機率又更大。
  • 記憶體方面,力旺包括 22 奈米的 MRAM 和 ReRAM 記憶體都已完成客戶設計驗證。

 

GoldON投資方向思考

  1. 由於晶片架構越來越複雜,尤其先進製程14奈米以下的晶片設計挑戰越來越大,在自研晶片趨勢下,若是所有功能都自行開發,將會大幅延遲進入市場的時間,因此購買現有的矽智財反而能快速下線並快速進入市場搶得先機,更能避免因為設計錯誤而導致出貨延宕,進而浪費大量設計人力。為了能夠有更好的晶片效能與競爭力,也能更快速的讓晶片量產,因此未來對矽智財需求只會越來越大。
  2. 在當前自研晶片風潮下,能夠對應客戶需求的矽智財商業模式將有可能逐漸超越過往以晶片設計業者開發的通用型晶片為主的商業模式,從而讓矽智財業者未來的發展性高於晶片設計公司 (IP優於IC)。
  3. 對矽智財業者來說,未來的成長動能將來自以下的產業現況:
    • 案量增加:對科技大廠來說,儘管購買矽智財能快速使用其功能,然而因為單晶片系統整合難度高,因此通常會進一步委託矽智財廠商進行設計開發,因此讓矽智財廠除了授權金外收入外,還有委託設計服務費用收入,提升整體營收。
    • 個別案件規模提高:另一方面,由於科技大廠近年來切入自研晶片,與晶圓代工廠合作經驗不足,因此就算科技大廠自身擁有足夠的設計能力和矽智財,因為缺少晶圓代工廠的支援,還是需要透過矽智財廠取得晶圓產能,因此矽智財廠還可以進一步獲得Turn-key的權利金收入,往往矽智財廠的權利金的毛利不高但占了大部分的營收量體。
    • 先進製程趨勢:由於AI的熱潮興起,科技大廠軟硬整合的需求越來越高,傳統通用的晶片如Intel或高通早已不能滿足其性能和功耗,科技大廠的自研晶片的趨勢大幅提升矽智財的需求,而AI晶片因為需要極高算力,因此對先進製程的需求極高,也促使對矽智財的需求從傳統製程大幅轉向先進製程。而因為先進製程代工費用極高,同時也將拉高矽智財業者的毛利。
  4. AI晶片在2022~2025年CAGR高達23.8%,且極度仰賴先進製程,因此大多數矽智財廠都將因AI晶片的需求而受惠。若要更進一步評估矽智財廠商之間的差異,擁有大量先進製程相關IP,並有先進製程設計的經驗,還有掌握先進製程的產能,未來將會有更大的成長空間。

 

 

關於本篇

 

前驅投資週報_2023-020

Processor:    Shawn Hung

Hunter:         Shawn Hung