LLM、AI晶片性能躍升,800G光互連時代提前到來

摘要

本篇報告一方面聚焦2024年AIGC應用大舉入市、大型語言模型(LLM)蓬勃發展的趨勢,另一方面則探討支撐多元應用、模型發展之AI晶片加速升級,何以帶動800G光互連(Optical Interconnect)解決方案需求。

一. AIGC應用持續擴張,LLM群雄並起
二. 為擴展雲端AI運算,核心晶片加速升級迭代
三. 突破巨量資料傳輸瓶頸,800G光互連將成主流
四. 拓墣觀點

圖一 推估訓練GPT 4、Llama 4所需之AI晶片與光互連數量
圖二 2024、2026年400G、800G光模組市場占比推估

表一 比較Runway Pro、Pika Pro與ChatGPT Plus
表二 2024年推出之LLM舉要
表三 新創AI廠商於2024年發表之LLM測試成績舉要
表四 NVIDIA A100、H200與B200晶片比較
表五 Meta MTIA v1與v2晶片比較
表六 指標廠商自2019年以來推出的AI晶片
表七 有望受惠於800G光互連需求攀升之台灣廠商舉要

 

LLM、AI晶片性能躍升,800G光互連時代提前到來

請輸入您的會員帳號與密碼,即可瀏覽全文

Login 如何購買 下載完整報告檔案 1.04MB PDF

會員專屬
您好,該資料屬會員權益方可瀏覽,您需成為會員且購買此產業項目權限才可觀看,詳細說明如下:
  • 拓墣產業研究院之「產業資料庫」為付費的會員服務,若您尚未具備會員身份,歡迎您申請加入或是與我們的客服聯絡瞭解。
  • 若您所屬公司機關已具有拓墣會員身份,並且設定予貴公司人員線上申請,請先行移至「申請會員帳號」填寫申請資料後送出,我們會儘快為您審核辦理。若未開放線上申請,請您詢問貴公司的承辦連絡人處理,謝謝。
  • 由於貴公司無採購此產業項目,因此您將無法瀏覽此篇文章,欲查詢貴公司所購買的產業項目明細,請至「會員權益」查詢,謝謝。
  • 客戶服務專線: 02 8978-6498 ext.822
    客戶服務信箱:

宣傳推廣

新聞稿

華星光電IJP OLED將於2026下半年導入品牌監視器及筆電產品,韓系主導格局迎來挑戰

根據TrendForce表示,華星光電力推IJP OLED技術,希望以此切入監視器以及筆電 [...]

CSP自研ASIC浪潮加速MLCC規格集中,2H26高階特規品恐面臨結構性短缺

根據TrendForce最新MLCC產業研究,隨著全球雲端服務供應商(CSP)AI軍備競賽 [...]

TSMC加速布局CoPoS,台灣面板廠及相關材料、設備商藉FOPLP卡位Glass Core Substrate先機

AI半導體需求爆發驅動先進封裝技術快速演進,面板級封裝(FOPLP)成為各方角力的新戰場。 [...]

光互連成AI Factory擴張關鍵,預估2030年CPO/NPO市場規模將破390億美元

根據TrendForce最新矽光子產業研究,隨著AI訓練與推論需求快速擴張,AI 資料中心 [...]

AI續強、消費供應鏈提前備貨發酵,第一季全球前十大晶圓代工營收季增3.7%

根據TrendForce最新晶圓代工產業研究,除了AI HPC與相關周邊訂單仍如火如荼出貨 [...]