Energie und Nachhaltigkeit
Was eine Anfrage tatsächlich verbraucht, wie man das nachrechnet und welche Angaben in einer Nachhaltigkeitsberichterstattung belastbar sind.
Die Idee
Jede Anfrage lässt eine Grafikkarte für kurze Zeit arbeiten. Der Verbrauch ist Leistung mal Zeit. Eine Karte mit 400 Watt, die eine Sekunde arbeitet, verbraucht 400 Wattsekunden, also rund 0,11 Wattstunden. Wenn sie in dieser Sekunde zwanzig Anfragen gleichzeitig bedient, entfallen auf jede etwa 0,0056 Wattstunden.
Die Stapelverarbeitung, die die Kosten senkt, senkt also auch den Verbrauch je Anfrage, im selben Verhältnis.
Größenordnungen
| Vorgang | Größenordnung |
|---|---|
| Websuche | ~0,3 Wh |
| Kurze Antwort eines mittleren Modells | 0,1 bis 1 Wh |
| Lange Antwort eines großen Modells | 2 bis 10 Wh |
| Ein erzeugtes Bild | 1 bis 5 Wh |
| Ein Kilometer mit dem Auto | ~1.900 Wh |
Die eigene Messung
- 01
Leistungsaufnahme erfassen
Über die Kartenverwaltung, gemittelt über den Messzeitraum, nicht als Spitzenwert.
- 02
Durchsatz gleichzeitig messen
Anfragen und Token je Sekunde im selben Zeitfenster.
- 03
Auf die Anfrage umrechnen
Leistung geteilt durch Durchsatz ergibt Energie je Anfrage.
- 04
Zuschläge ergänzen
Prozessor, Netzteil, Kühlung. Der PUE-Faktor des Rechenzentrums deckt das ab.
Durchgerechnet: P = 400 W, R = 12 Anfragen je Sekunde, PUE = 1,3:
E = (400/12) × 1,3 / 3600 = 0,0120 Wh je Anfrage. Bei einer Million Anfragen
je Tag sind das 12,0 kWh je Tag.
Von Energie zu Emissionen
Der Faktor I schwankt erheblich: Er liegt in einigen europäischen Netzen unter
50 g je kWh und in anderen über 400 g. Derselbe Dienst kann damit je nach
Standort um den Faktor acht unterschiedlich emissionsintensiv sein. Für eine
Berichterstattung ist deshalb der standortbezogene Faktor anzugeben, nicht ein
europäischer Mittelwert.
Was in einem Bericht belastbar ist
- Gemessener Energieverbrauch der eigenen Anlagen, nicht hochgerechnet aus Herstellerangaben.
- Der PUE des tatsächlich genutzten Rechenzentrums, mit Bezugszeitraum.
- Der standortbezogene Emissionsfaktor, mit Quelle und Jahr.
- Für zugekaufte Dienste: die Angaben des Anbieters, ausdrücklich als solche gekennzeichnet.
- Getrennte Ausweisung von Training und Betrieb.
Nicht belastbar sind: geschätzte Verbräuche je Anfrage aus fremden Veröffentlichungen, Herstellerangaben zur Spitzenleistungsaufnahme als Betriebswert, und Angaben ohne Auslastungsangabe.
Die wirksamsten Hebel
| Hebel | Größenordnung |
|---|---|
| Stapelverarbeitung erhöhen | Faktor 5 bis 20 je Anfrage |
| Kleineres Modell für einfache Anfragen | Faktor 5 bis 20 auf den betroffenen Anteil |
| Quantisierung auf int8 | Faktor ~2 |
| Prompt- und Antwortlänge begrenzen | Linear |
| Standortwahl nach Strommix | Faktor bis 8 auf die Emissionen |
Die letzte Zeile verändert den Verbrauch nicht, nur die Emissionen. Sie gehört deshalb getrennt ausgewiesen und nicht mit Effizienzmaßnahmen vermischt.