TPUs sind Googles maßgeschneiderte KI-Prozessoren mit systolischen Arrays für schnelle Matrixmultiplikationen.
Die Tensor Processing Unit ist ein von Google entwickelter Beschleuniger. Sie nutzt systolische Arrays, um Matrixmultiplikationen extrem effizient auszuführen, und ist eng mit TensorFlow sowie dem XLA-Compiler verzahnt. TPUs stehen in Google Cloud als v2 bis v5e sowie als Pods für großskaliges Training bereit.
Vorteile
- Hohe Effizienz: Optimiert für Deep-Learning-Arithmetik.
- Skalierbarkeit: TPU-Pods verbinden Dutzende Chips mit Hochgeschwindigkeitsnetzwerk.
- Ecosystem: Support in JAX, PyTorch/XLA und Werkzeugketten für automatische Sharding-Strategien.
