2026年7月1日

inff.cc

科技

美國輝達與AMD推大規模GPU系統加速AI運算與記憶體升級

隨著人工智慧(AI)應用日益普及,伺服器與記憶體技術正經歷重大轉變,以滿足指數級增長的運算需求。

根據《半導體 Engineering》報導,為了應對AI時代的龐大運算需求,伺服器正朝向更大規模發展,例如輝達(NVIDIA)或AMD推出的72顆GPU系統,透過系統級最佳化讓眾多GPU協同運作,突破單晶片效能極限。未來更將進一步串聯機架,建構超過1,000顆加速器的AI運算叢集,以實現資料中心的最佳總體擁有成本。為充分利用這些加速器叢集,高頻寬與低延遲的連線至關重要。

此外,AI個人電腦(AI PCs)也催生了新型態的客戶端工作負載。深度求索(DeepSeek AI)等代理者式AI系統需要即時規劃、執行與適應,並在維持持續性上下文的同時協調多項並行任務。這種使用簡圖對記憶體子系統構成持續壓力,不僅需要更高的峰值頻寬,還要求在連續負載下具備穩定且可預測的效能。為此,DDR5記憶體正朝向更高速度邁進,業界已從早期的4800 MT/s推進至6400 MT/s,並規劃達到9000 MT/s以上。DDR5記憶體作為伺服器記憶體最新一代產品,最高可支援9,200 Mbps的資料傳輸速率,相較於前一代DDR4有顯著提升,成為伺服器與資料中心市場的主流選擇。

1 家媒體