Google揭曉代號Trillium的第6代TPU 加速Google Cloud平臺應用服務執行效率

在此次Google I/O 2024中，Google宣佈推出代號Trillium的第6代TPU，預計會在今年底透過Google Cloud服務提供，另外也宣佈今年4月於Google Cloud Next'24活動上公佈代號「Axion」的客製化處理器將於年底前上線，而與NVIDIA合作的Blackwell GPU則會在2025年初提供使用。

相比先前推出的TPU v5e，Google表示第6代TPU將能提升4.7倍的加速效能，同時在設計強化矩陣乘法單元 (MXU)，並且提高運作時脈，以及藉由增加1倍的HBM高密度記憶體頻寬與容量加速資料運算傳輸效率。

此外，第6代TPU更具備加快處理排序及推薦工作負載的第三代SparseCore嵌入式加速器，並且透過客製化光通訊技術讓晶片對晶片互連頻寬相比TPU v5e增加一倍。而第6代TPU能以256組構成單一Pod，並且可擴展至數百萬個Pod規模，同時所有TPU都能以每秒達PB級別傳輸速度互連運作。

Google強調其提供更完整的運算架構選擇，並且藉由開源軟體形式簡化開發難度，其建構基礎架構環境更以液冷維持穩定運作，同時更透過海底光纖電纜串接位於全球各地的數據中心，藉此讓建構在Google Cloud環境的雲端運算服務能以更快反應速度運作。

而當前除了透過自有TPU進行加速運算，Google也與NVIDIA、AMD及Intel在內業者合作，甚至本身也推出以Arm Neoverse架構打造的「Axion」客製化處理器，藉此滿足更多開發者不同硬體環境佈署應用需求。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》