• 加權指數 36,033.29 ▼ 2,393.60 -6.23%
  • 櫃買指數 263.31 ▼ 22.02 -7.72%
  • 外資買賣超 -94.1 億 ▼ 連 5 賣

2026-11-20(五)13:30 收盤

神雲科技擴展代理式 AI 應用 於 SC26展出全棧基礎設施

神達(3706)旗下伺服器廠神雲科技宣布,於SC26展會中揭曉其全方位的AI基礎設施生態系,以「全棧基礎設施,擴展AI代理式應用(Scaling Agentic AI. Built on Full-Stack Infrastructure)」為主題,展示全棧創新技術如何克服企業部署 AI時所面臨的運算、散熱與資料傳輸瓶頸。

神達(3706)旗下伺服器廠神雲科技宣布,於SC26展會中揭曉其全方位的AI基礎設施生態系,以「全棧基礎設施,擴展AI代理式應用(Scaling Agentic AI. Built on Full-Stack Infrastructure)」為主題,展示全棧創新技術如何克服企業部署 AI時所面臨的運算、散熱與資料傳輸瓶頸。

隨著代理式AI帶動推論工作負載呈指數級暴增,擴展基礎設施所需的已不僅是單純的GPU算力。透過與AMD、Canonical、DDN、Intel、NVIDIA 及 Rafay 等夥伴的戰略合作,神雲科技提供具備高度擴充性的AI工廠(AI Factory)架構,完美結合高密度液冷、解耦推論(Disaggregated Inference)以及端到端(End-to-End)的資源調度管理。

神雲科技總經理黃承德表示,擴展代理式AI需要的是具備凝聚力的基礎設施,而非零散的系統。神雲科技提供全棧基礎設施解方,實現永續發展的AI工廠。

其中,神雲科技與Skymizer攜手合作,共同打造一款創新的推論架構。該架構將高度消耗算力的「Prefill(預填)」階段交由GPU處理,並將高度消耗記憶體的「Decode(解碼)」階段分配給 Skymizer 的 HTX301 加速卡。此一架構旨在讓企業能針對不同階段的工作負載進行精準的資源配置,同時確保模型推論能維持在地端(On-premises)運行。

具備擴充性的AI工廠需要極具凝聚力的軟體生態系。在基礎安全性方面,Canonical Ubuntu提供經過認證的作業系統層,確保無縫部署與企業級的穩定度。整合DDN Infinia解決方案,確保海量資料流能以超低I/O延遲進行處理,避免加速器陷入無資料可算的閒置窘境。

在此基礎上,神雲與Rafay合作,賦能企業具備動態的GPU即服務(GPUaaS)調度能力,在分散式工作負載中高效分配GPU資源,消除閒置算力並將投資報酬率(ROI)最大化。而將整個生態系緊密結合的,是神雲科技自主研發的 MiCoreView軟體,這是一款全方位的POD管理解決方案,可提供深度的遙測與監控數據(Telemetry),並為整個資料中心帶來統一的視覺化監控能力。