Utilization beschreibt, wie stark Hardware-Ressourcen wie GPU, CPU oder Speicher tatsächlich genutzt werden.
Auslastung (Utilization) gibt an, welcher Prozentsatz der verfügbaren Ressourcen aktiv ist. Für GPUs lässt sich etwa messen, wie viele SMs rechnen, wie hoch die Speicherauslastung ist oder wie gut Tensor-Cores beschäftigt sind. Eine niedrige Auslastung zeigt Optimierungspotenzial bei Batchgrößen, Datenpipelines oder Parallelisierung.
Monitoring
- Dashboards: Tools wie Grafana oder Cloud-Metriken visualisieren Auslastung in Echtzeit.
- Alerting: Schwellenwerte sorgen dafür, dass Leerlauf oder Überlast schnell erkannt werden.
- Kostenkontrolle: Hohe Auslastung bedeutet bessere Rendite pro GPU-Stunde.
