Google 推兩款新 TPU 擴大搶食 AI 商機 台積電跟著吃補
Google昨(9)日宣布推出兩款新自研張量處理器(TPU)「TPU 8TX」與「TPU 8I Max」,全面擴大搶食AI商機。
Google昨(9)日宣布推出兩款新自研張量處理器(TPU)「TPU 8TX」與「TPU 8I Max」,全面擴大搶食AI商機。
業界分析,Google第八代TPU家族從尖端製程到系統級封裝,目前綁定台積電(2330)生態系,隨著Google持續擴大相關產品線陣容,並獲得更多大廠採用,台積電跟著吃補。
Google Cloud AI與運算基礎架構副總裁暨總經理Mark Lohmeyer表示,Google過去每兩年或一年推出一款AI晶片的周期將加速,現在已達到「單年度推出四款專用系統」的境界,以極速迭代的硬體研發能量,因應市場需求。
Google上半年才推出針對超大規模訓練的TPU 8T與著重低延遲推論的TPU 8I,如今再度拓展第八代TPU家族,推出TPU 8TX與TPU 8I Max,達成一年內發表四款TPU系統的里程碑。
業界分析,AI技術發展重心由「紀錄系統(Systems of Record)」跨入能與企業ERP、資料庫連動並自主採取行動的「行動系統(Systems of Action)」,底層運算負載倍數暴增。
Google兩款新晶片各具戰略定位。TPU 8TX主打全鏈路機密推論,是首款整合硬體機密運算特性的TPU系統,與負責系統控制的超微x86處理器架構深度整合。晶片透過端到端PCIe鏈路硬體加密與身分認證,確保金融、醫療或嚴格監管行業在推論過程中,模型權重與私有資料均處於隔離受保護狀態;同時導入全新網路拓撲架構Boardfly,將晶片間的通訊直徑縮小超過50%,讓推論延遲較前代大幅減半。
TPU 8I Max主打承載巨量文件、代碼庫與並行代理流程設計,採用雙晶片封裝架構,於單一模組內整合兩顆8I晶片,提供高達17.2 TB/s的記憶體頻寬(提升二倍)、768 MB片上SRAM(提升二倍)與384GB的HBM(增加33%),在相同的機架空間與能耗條件下,帶來優於TPU 8I 兩倍的運算密度與數據吞吐能力。
Google強調,未來的運算架構已非單純比拚加速器顆數,而是矽晶片、網路互聯、記憶體頻寬與排程軟體的全方位整合設計。新晶片與加速軟體將全面於Google Cloud上線,為全球企業構築兼具頂級效能、彈性調度與高合規標準的次世代AI基礎設施。