Eine Matrix ist eine rechteckige Anordnung von Zahlen, die lineare Transformationen kompakt beschreibt.
Die Matrix ist das Standardwerkzeug, um lineare Operationen darzustellen. In neuronalen Netzen bestehen Gewichte, Aktivierungen und Gradienten aus Matrizen. Multiplikationen, Transponierungen oder Inversionen bilden das Rückgrat jeder Forward- und Backward-Pass-Berechnung.
Relevanz
- Transformationen: Matrizen drehen, skalieren oder projizieren Daten.
- Batching: Mehrere Beispiele lassen sich als Matrix multiplizieren.
- Optimierung: Bibliotheken wie cuBLAS oder MKL liefern hochperformante Matrix-Kerne.
