• 加權指數 36,033.29 ▼ 2,393.60 -6.23%
  • 櫃買指數 263.31 ▼ 22.02 -7.72%
  • 外資買賣超 -94.1 億 ▼ 連 5 賣

2026-11-20(五)13:30 收盤

神雲科技於 SC26 展出全棧基礎設施 擴展代理式 AI 應用

神達控股(3706)子公司神雲科技(MiTAC Computing Technology Corp.)今(17)日於 SC26 展會中揭曉其全方位的 AI 基礎設施生態系。神雲以「全棧基礎設施,擴展AI代理式應用」為主題,展示全棧創新技術如何克服企業部署 AI 時所面臨的運算、散熱與資料傳輸瓶頸。

神達控股(3706)子公司神雲科技(MiTAC Computing Technology Corp.)今(17)日於 SC26 展會中揭曉其全方位的 AI 基礎設施生態系。神雲以「全棧基礎設施,擴展AI代理式應用」為主題,展示全棧創新技術如何克服企業部署 AI 時所面臨的運算、散熱與資料傳輸瓶頸。

隨著代理式 AI 帶動推論工作負載呈指數級暴增,擴展基礎設施所需的已不僅是單純的 GPU 算力。透過與 AMD、Canonical、DDN、Intel、NVIDIA 及 Rafay 等夥伴的戰略合作,神雲科技提供具備高度擴充性的 AI 工廠(AI Factory)架構,完美結合高密度液冷、解耦推論(Disaggregated Inference)以及端到端(End-to-End)的資源調度管理。

「擴展代理式 AI 需要的是具備凝聚力的基礎設施,而非零散的系統,」神雲科技總經理黃承德(Rick Hwang)表示。「神雲科技提供全棧基礎設施解方,實現永續發展的 AI 工廠。」

神雲科技與 Skymizer 攜手合作,共同打造一款創新的推論架構。該架構將高度消耗算力的「Prefill(預填)」階段交由 GPU 處理,並將高度消耗記憶體的「Decode(解碼)」階段分配給 Skymizer 的 HTX301 加速卡。此一架構旨在讓企業能針對不同階段的工作負載進行精準的資源配置,同時確保模型推論能維持在地端(On-premises)運行。

在基礎安全性方面,Canonical Ubuntu 提供經過認證的作業系統層,確保無縫部署與企業級的穩定度。整合 DDN Infinia 解決方案,確保海量資料流能以超低 I/O 延遲進行處理,避免加速器陷入無資料可算的閒置窘境。在此基礎上,神雲與 Rafay 合作,賦能企業具備動態的 GPU 即服務(GPUaaS)調度能力,在分散式工作負載中高效分配 GPU 資源,消除閒置算力並將投資報酬率(ROI)最大化。

而將整個生態系緊密結合的,是神雲科技自主研發的 MiCoreView™ 軟體,這是一款全方位的 POD 管理解決方案,可提供深度的遙測與監控數據(Telemetry),並為整個資料中心帶來統一的視覺化監控能力。

神雲科技同時與 AMD 合作開發 Helion 代理式 AI 機櫃(Helion Agentic AI Rack),將能在開源軟體堆疊中擴展至高達 32,768 個 AMD Zen 6 CPU 核心,賦能超大規模(Hyperscale)資料中心與企業環境智能地分配複雜工作負載,並將每瓦Agent運算效率(Agents-per-watt efficiency)推向極致。