Ein Parameter ist ein Wert, den das Training anpasst, um Fehler zu minimieren. In neuronalen Netzen zählen dazu Gewichtsmatrizen und Bias-Terme. Große Sprachmodelle besitzen Milliarden Parameter, wodurch sie extrem flexible Funktionen abbilden können – allerdings auch mehr Speicher und Daten benötigen.
Bedeutung
- Kapazität: Mehr Parameter erlauben feineres Modellieren, bergen aber Overfitting-Risiko.
- Speicherbedarf: Parametergröße bestimmt VRAM-Anforderungen.
- Versionierung: Parameter-Snapshots sichern reproduzierbare Releases.
