Die Tensor Processing Unit ist ein von Google entwickelter Beschleuniger. Sie nutzt systolische Arrays, um Matrixmultiplikationen extrem effizient auszuführen, und ist eng mit TensorFlow sowie dem XLA-Compiler verzahnt. TPUs stehen in Google Cloud als v2 bis v5e sowie als Pods für großskaliges Training bereit.
Vorteile
- Hohe Effizienz: Optimiert für Deep-Learning-Arithmetik.
- Skalierbarkeit: TPU-Pods verbinden Dutzende Chips mit Hochgeschwindigkeitsnetzwerk.
- Ecosystem: Support in JAX, PyTorch/XLA und Werkzeugketten für automatische Sharding-Strategien.
