和碩搶攻伺服器商機 鎖定代理型 AI 需求
和碩(4938)宣布將於SC26展示最新的AI與高效能運算(HPC)平台,呈現高密度CPU基礎架構、GPU加速運算系統與高效能儲存,如何因應代理型AI與HPC不斷演進的需求。和碩的產品組合涵蓋CPU密集型運算執行與資料處理,乃至加速運算,提供靈活且可擴充的基礎架構,以支援日益複雜的AI工作負載。
和碩(4938)宣布將於SC26展示最新的AI與高效能運算(HPC)平台,呈現高密度CPU基礎架構、GPU加速運算系統與高效能儲存,如何因應代理型AI與HPC不斷演進的需求。和碩的產品組合涵蓋CPU密集型運算執行與資料處理,乃至加速運算,提供靈活且可擴充的基礎架構,以支援日益複雜的AI工作負載。
隨著AI從模型訓練與推論,逐步發展至能夠自主執行複雜任務的代理型AI,運算基礎架構的需求也隨之改變。代理型AI需要大量CPU資源,以支援多個AI代理同時運作、工具執行、沙箱程式碼執行、強化學習(Reinforcement Learning, RL)評估及資料處理。為滿足這些需求,AI工廠必須具備能與GPU加速運算系統協同運作的高密度CPU基礎架構,以支援大規模AI運算。
NVIDIA Vera CPU機架採用NVIDIA MGX模組化參考架構,整合256顆液冷式NVIDIA Vera CPU,提供超過22,500個運算核心、超過45,000個執行緒,以及最高300 TB/s 的 LPDDR5X 記憶體總頻寬。此架構可支援22,500個沙箱環境,並提升80%的AI代理CPU運算效能,協助AI工廠擴展AI代理執行、強化學習評估及資料處理流程。透過NVIDIA Spectrum-X Ethernet與NVIDIA Quantum-X800 InfiniBand網路技術,AI工廠可同步擴展CPU密集型工作負載與加速運算能力。
NVIDIA Vera涵蓋機架級 CPU 基礎架構、加速運算系統及獨立式伺服器,和碩亦提供相應的多元產品組合。其中,RA4803-72N3 採用NVIDIA Vera Rubin NVL72全液冷機架架構,整合72顆NVIDIA Rubin GPU與36顆NVIDIA Vera CPU,支援前沿AI模型訓練、強化學習及大規模代理型AI推論。
擴大高密度運算產品組合,和碩將推出MS310-2A2E,這是一款搭載AMD EPYC 9006系列處理器的2OU雙節點伺服器,可在有限的機架空間內提升運算密度,透過48VDC匯流排夾具(busbar clip)供電,並符合DC-MHS、OCP 3.0 NIC及 DC-SCM 2.1等開放標準,可彈性整合至現代資料中心環境。
和碩總經理暨共同執行長鄭光志表示,隨著 AI 從生成回應邁向執行日益複雜的任務,運算資源的配置正在改變。GPU仍是AI加速運算的關鍵,而CPU在AI代理執行、強化學習及資料處理中扮演更重要的角色。和碩結合完整的產品組合、彈性的工程設計、系統整合及部署能力,從單一系統延伸至機架及叢集層級的解決方案。