直擊地端 AI 算力痛點!華碩發表全新 UGen B70推論加速卡
華碩28日發表全新ASUS UGen Intel® Arc™ Pro B70 32GB推論加速卡,直擊市場最迫切痛點,主打價格親民實惠,提供32GB GDDR6 ECC超大容量記憶體,再加上專為推論優化的硬體架構,絕對是企業執行地端代理式AI(Agentic AI)時不容錯過的選擇!
華碩28日發表全新ASUS UGen Intel® Arc™ Pro B70 32GB推論加速卡,直擊市場最迫切痛點,主打價格親民實惠,提供32GB GDDR6 ECC超大容量記憶體,再加上專為推論優化的硬體架構,絕對是企業執行地端代理式AI(Agentic AI)時不容錯過的選擇!
華碩指出,現代AI工作非常消耗記憶體,例如:較長的上下文推理會大幅增加KV快取用量,以及多代理部署,也需要同時執行多個模型,占用VRAM;一旦容量不足,資料便會卸載至主記憶體,推論效能可能下降超過10倍。華碩本次推出的ASUS UGen B70內建32GB、具ECC保護的GDDR6記憶體,可支援多數27B參數以下的模型,將其完整保留於加速卡上,此外,搭配Llama 3.1 8B,還能實現高達128K token的上下文視窗,並透過雙卡64GB或多卡128GB擴充,滿足企業AI部署所需。
ASUS UGen B70內建INT4 / FP8線上量化功能,擁有完整且成熟的AI軟體堆疊支援,同時有多項經過驗證的模型,且雙卡配置還可以每秒43.4 token的流暢速度執行80B等級模型,將成為市場效能標竿。
ASUS UGen B70 主要鎖定三大使用者族群,首先是專業消費者及獨立AI開發者,單張32GB即突破主流16GB AI加速卡於大型模型資源上限;再來是小型企業與創意工作室,雙卡64GB配置,可在支援更大規模部署時,將敏感資料保留於企業內部;最後是企業部門級AI團隊,多卡128GB系統,降低長期成本,並符合法律、醫療、政府與金融等領域的資料合規要求。