2025-01-23 拓墣產業研究院

LLM、AI晶片性能躍升，800G光互連時代提前到來

焦點報告寬頻網路通訊 AI人工智慧 LLM暨關鍵硬體

意見反映字體大小小中大

摘要

本篇報告一方面聚焦2024年AIGC應用大舉入市、大型語言模型(LLM)蓬勃發展的趨勢，另一方面則探討支撐多元應用、模型發展之AI晶片加速升級，何以帶動800G光互連(Optical Interconnect)解決方案需求。

一. AIGC應用持續擴張，LLM群雄並起
二. 為擴展雲端AI運算，核心晶片加速升級迭代
三. 突破巨量資料傳輸瓶頸，800G光互連將成主流
四. 拓墣觀點

圖一　推估訓練GPT 4、Llama 4所需之AI晶片與光互連數量
圖二　2024、2026年400G、800G光模組市場占比推估

表一　比較Runway Pro、Pika Pro與ChatGPT Plus
表二　2024年推出之LLM舉要
表三　新創AI廠商於2024年發表之LLM測試成績舉要
表四　NVIDIA A100、H200與B200晶片比較
表五　Meta MTIA v1與v2晶片比較
表六　指標廠商自2019年以來推出的AI晶片
表七　有望受惠於800G光互連需求攀升之台灣廠商舉要

會員專屬

您好，該資料屬會員權益方可瀏覽，您需成為會員且購買此產業項目權限才可觀看，詳細說明如下：

拓墣產業研究院之「產業資料庫」為付費的會員服務，若您尚未具備會員身份，歡迎您申請加入或是與我們的客服聯絡瞭解。
若您所屬公司機關已具有拓墣會員身份，並且設定予貴公司人員線上申請，請先行移至「申請會員帳號」填寫申請資料後送出，我們會儘快為您審核辦理。若未開放線上申請，請您詢問貴公司的承辦連絡人處理，謝謝。
由於貴公司無採購此產業項目，因此您將無法瀏覽此篇文章，欲查詢貴公司所購買的產業項目明細，請至「會員權益」查詢，謝謝。

LLM、AI晶片性能躍升，800G光互連時代提前到來

摘要

請輸入您的會員帳號與密碼，即可瀏覽全文

您好，該資料屬會員權益方可瀏覽，您需成為會員且購買此產業項目權限才可觀看，詳細說明如下：

宣傳推廣

相關焦點報告

Google高速互連架構分析：800G+光模組躍升主流，2026年滲透率與供應鏈布局

資料中心升級潮啟動800G光收發模組新紀元

開源LLM將分化高中低階伺服器市場

STEVE BALLMER speech：Microsoft Office System Launch

TRI SCAN

NVIDIA神經紋理壓縮技術成顯卡記憶體救星？VRAM從6.5GB降至970MB

LoRaWAN定位大規模物聯網連線標準，競逐IoT「第四支柱」

NTT、SK Telecom白皮書：基地台池化(Pooling)台廠破壟斷

歐盟正加大對整體晶片生態系統的投入，重塑半導體產業鏈

獲得Micron大客戶、打入HBM供應鏈，力積電談P5售廠「三大利多」

新聞稿

成本上調帶動，預估2Q26動力電芯價格續漲

零組件交期拉長壓抑通用型server成長動能，預估2026年整體server出貨量年增13%

Apple入局折疊手機可望拿下近2成市占，應力管理成改善折痕關鍵

預估2026年中國人型機器人產量年增94%，宇樹、智元合計拿下近8成市場

供應鏈尚須調校添Rubin延遲風險，2026年Blackwell將占NVIDIA高階GPU出貨逾7成

LLM、AI晶片性能躍升，800G光互連時代提前到來

摘要

請輸入您的會員帳號與密碼，即可瀏覽全文

您好，該資料屬會員權益方可瀏覽，您需成為會員且購買此產業項目權限才可觀看，詳細說明如下：

宣傳推廣

相關 焦點報告

TRI SCAN

新聞稿

相關焦點報告