題組內容
一、近年來,隨著人工智慧(AI)與高效能運算(HPC)技術快速發展,電腦系統對記憶體容量、存取速度與資料傳輸效率的需求日益提高。從電腦硬體的角度來看,各類記憶體與儲存裝置可共同構成一個記憶體階層,其常見層級包括快取記憶體(Cache)、暫存器(Register)、主記憶體(RAM), 以及輔助記憶體,例如 SSD 與 HDD 等。此外,除傳統常見的 ROM 與 RAM 外 , 近年來部分高階運算平台亦導入 HBM ( High Bandwidth Memory),以提升大量資料平行存取時的整體效能。
請回答下列問題:
(三)請從記憶體瓶頸(memory bottleneck)的觀點,說明 HBM 為何有助於 提升 AI 或 HPC 系統的效能;並進一步分析其相較於傳統 RAM 的主要 優點與限制,以及其未普遍應用於一般個人電腦的原因。