AI記憶體應用需求不斷攀升帶動HBM持續進化

摘要

本篇報告首先聚焦於HBM何以在LLM與AIGC應用發展過程中扮演關鍵角色,接著從HBM的升級路徑著手,探究其如何透過異質記憶體整合策略擴大容量、升級頻寬以應對未來的AIGC應用需求。

一. LLM升級迭代與AIGC應用擴張令HBM需求未見止盡
二. 圍繞HBM的異質記憶體整合路徑將聚焦容量與頻寬升級
三. 拓墣觀點

圖一 文字生成流程與HBM使用狀況
圖二 圖片生成流程與HBM使用狀況
圖三 影片生成流程與HBM使用狀況
圖四 HBM4整合LPDDR示意圖
圖五 HBM整合NMC Die
圖六 HBM5整合SOCAMM示意圖
圖七 雙塔架構的HBM6示意圖
圖八 HBM7整合HBF示意圖

表一 歷代GPT可處理之Token數量
表二 三類AI生成過程對HBM之需求估算
表三 歷代HBM理論性能與規格參數

 

AI記憶體應用需求不斷攀升帶動HBM持續進化

請輸入您的會員帳號與密碼,即可瀏覽全文

Login 如何購買 下載完整報告檔案 1.03MB PDF

會員專屬
您好,該資料屬會員權益方可瀏覽,您需成為會員且購買此產業項目權限才可觀看,詳細說明如下:
  • 拓墣產業研究院之「產業資料庫」為付費的會員服務,若您尚未具備會員身份,歡迎您申請加入或是與我們的客服聯絡瞭解。
  • 若您所屬公司機關已具有拓墣會員身份,並且設定予貴公司人員線上申請,請先行移至「申請會員帳號」填寫申請資料後送出,我們會儘快為您審核辦理。若未開放線上申請,請您詢問貴公司的承辦連絡人處理,謝謝。
  • 由於貴公司無採購此產業項目,因此您將無法瀏覽此篇文章,欲查詢貴公司所購買的產業項目明細,請至「會員權益」查詢,謝謝。
  • 客戶服務專線: 02 8978-6498 ext.822
    客戶服務信箱:

宣傳推廣

新聞稿

3Q26全球電視出貨年減3.6%,品牌搶攻Mini LED、RGB Mini LED等高階市場

根據TrendForce最新電視產業研究,2026年第三季因年底促銷旺季備貨需求逐步升溫, [...]

整機庫存堆高,部分PC OEM調整2027年記憶體採購策略

根據TrendForce最新記憶體產業研究,記憶體價格上漲超過一年,消費性電子產業成本壓力 [...]

Penguin Solutions出售Cree LED給私募股權公司,照明LED供應鏈格局受關注

Penguin Solutions於11月4日公告,已與私募股權公司Transom Cap [...]

DRAM高價常態化推升拆機料採用,預估2027年於手機占比達7-9%

根據TrendForce最新記憶體產業研究,由於Mobile DRAM合約價格持續上漲,促 [...]

AI Next – 2027科技產業大預測

全球調研機構TrendForce於2026年11月5日舉行「AI Next–2 [...]