
商傳媒|責任編輯/綜合外電報導
面對人工智慧(AI)運算需求日益增長,全球記憶體兩大巨頭三星電子與SK海力士,正採取截然不同的技術策略。三星電子押注「記憶體內運算」(PIM)技術,搶攻邊緣 AI 裝置市場,而SK海力士則專注於提升高頻寬記憶體(HBM)的性能,以鞏固其在高階 AI 伺服器領域的領導地位。
三星電子於 8 月 25 日在史丹佛大學舉行的熱門晶片(Hot Chips)年會上,首次詳細公布其 Lpddr5x-PIM 產品規格。這是一種基於低功耗記憶體的商用 PIM 產品,主要針對智慧型手機、平板電腦等具備裝置端 AI 功能的行動裝置。
PIM 技術(Processing-in-Memory)是一種能直接在記憶體內部進行簡易運算的架構,解決了傳統記憶體需要將資料來回傳輸至中央處理器(CPU)或圖形處理器(GPU)的瓶頸問題。透過減少資料移動,PIM 能降低功耗和發熱量,同時讓 CPU 和 GPU 專注於更複雜的計算,提升整體處理效率。三星電子表示,將 PIM 用於裝置端 AI 產品,可使處理速度較傳統低功耗記憶體提升一倍,處理量(每秒處理的 Token 數量)更可達三倍。
另一方面,SK海力士選擇透過改進封裝技術來進一步推動高頻寬記憶體(HBM)。HBM 是一種將多個記憶體晶片堆疊起來、大幅提升資料傳輸頻寬的技術,目前已是 AI 記憶體的事實標準。然而,HBM 在高層數堆疊時面臨散熱挑戰。SK海力士在熱門晶片(Hot Chips)年會上展示了 hybrid bonding(混合鍵合)和 iHBM 等下一代技術,以解決 HBM 的散熱問題。
hybrid bonding 技術透過直接鍵合半導體晶圓上的絕緣材料和銅,消除晶片之間的微小縫隙,能實現更密集的堆疊,並降低訊號延遲和熱量。SK海力士指出,這項技術可使每個晶片厚度增加 24%,同時將熱阻降低 35%。而 iHBM 則透過在 HBM 內部熱點區域建立專用通道,利用導熱不導電的特殊材料引導熱量逸散,可將 HBM 的熱阻降低 30% 以上。
專家預期,下一代記憶體技術將是互補而非取代的關係。HBM 雖性能強勁,但成本高且功耗大,其應用仍將集中在資料中心。而 PIM 和 Compute Express Link (CXL) 等其他記憶體技術,則可能專精於 AI 推論運算,尤其是在邊緣裝置上。美國美光(Micron)和 Primemas 兩家公司就曾在 FMS 2026 記憶體晶片展上提出 CXL 作為 HBM 的替代方案。CXL 類似一種外部記憶體,允許 CPU 存取位於伺服器外部的動態隨機存取記憶體(DRAM)。
韓國嘉泉大學半導體工程系教授 Kim Yong-seok 指出,雖然韓國晶片製造商在 HBM 市場佔據領先地位,但包括中國長鑫儲存(CXMT)在內的中國半導體公司正以驚人速度崛起。為維持韓國在 AI 晶片市場的佔有率,業界必須加速開發 PIM 和 CXL 等下一代 AI 記憶體技術。