有別于傳統⼤模型對英偉達硬體及⽣態的依賴,Gemini 訓練所需的算⼒基於⾕歌⾃研的TPU v4 和v5e 等硬體。在推出新模型的同時,⾕歌順勢宣佈推出迄今為⽌功能最強⼤、最⾼效、可擴展性最強的TPU 系統Cloud TPU v5p,將⽤於開發更⾼層次的AI ⼤模型。
其TPU v5p的訓練性能是上⼀代TPU v4 的2.8 倍,記憶體頻寬提升3 倍,晶片間互聯頻寬翻倍,達到4.8Tbps,同時,v5p單個POD 中的晶片數量翻倍,達到8960顆。
ChatGPT 外,繪圖、視頻等多類AI 應⽤陸續取得進展,訓練與後續推理需求持續,算⼒基礎設施長期景氣度持續。










