Alle Maschinen, dieselbe Aufgabe: wer rechnet was?

Der Verein betreibt mehrere Rechner im selben Haus, und die Arbeit ist zwischen ihnen so verteilt, wie sie historisch angefallen ist — nicht so, wie eine Messung es nahelegen würde. Inzwischen sind alle an derselben Aufgabe gemessen, mit demselben Modell — der Hauptserver allerdings im laufenden Betrieb, was seine Zahl von den übrigen unterscheidet.

Die drei Maschinen

Auffällig ist die vorletzte Zeile: Der schwächste Rechner ist der einzige, auf dem Linux direkt läuft. Die beiden stärkeren betreiben ihre Dienste in einer Zwischenschicht — der Mac in einer virtuellen Maschine, die Workstation in einem Linux-Unterbau unter Windows. Das kostet Leistung und gelegentlich Verlässlichkeit.

Wie verglichen wurde

Damit ein Vergleich etwas taugt, muss überall dasselbe gemessen werden. Beide Maschinen bekamen dieselben Aufnahmen, dieselbe Modellversion (large-v3-turbo) und wurden mit demselben Code ausgewertet: vorgelesenes Deutsch, Parlamentsreden mit handgeprüften Transkripten, Telefonqualität, dazu eine durchgehende Aufnahme von knapp fünf Minuten in drei Läufen.

Ein Unterschied bleibt und ist beabsichtigt: Die Grafikkarte rechnet in float16, der Prozessor in int8. Das ist jeweils die für die Hardware sinnvolle Wahl — dieselbe Einstellung auf beiden wäre unrealistisch, weil sie eine der Maschinen künstlich benachteiligte.

Gemessen wurde außerdem in zwei Zeiten: was der Dienst selbst rechnet, und was inklusive Datei-Übertragung übers Netz vergeht. Der Vergleich unten nennt die Rechenzeit, weil der Büro-PC lokal arbeitet und keinen Netzweg hat. In der Praxis kommt bei der Workstation rund ein Viertel Aufschlag dazu.

Das Ergebnis

Die Genauigkeit ist praktisch identisch — mal liegt die eine, mal die andere Maschine um wenige Zehntel vorn, ohne erkennbares Muster. Das ist zu erwarten, weil beide dasselbe Modell fahren; es bestätigt vor allem, dass der Messaufbau sauber ist.

Beim Tempo liegen Welten dazwischen. Die fünf Minuten lange Aufnahme braucht auf der Grafikkarte 2,2 Sekunden, über drei Läufe hinweg mit weniger als einem Prozent Schwankung.

An einer echten Stunde bleibt die Karte bei 142× (Median aus drei Läufen, Streuung 1,6 s) — eine Stunde Audio braucht dort rund 25 Sekunden. Der Büro-PC wird ebenfalls leicht schneller (3,22× statt 3,0×) und schafft die Stunde in 18,6 Minuten. Der Abstand liegt damit bei Faktor 44.

⚠️ Hier stand zunächst, die Karte falle bei langen Aufnahmen auf 71,8× zurück. Das war ein Messfehler von uns: ein einzelner Lauf, ohne Wiederholung, während die Karte noch fremde Last trug. Drei saubere Läufe später ist von einem Einbruch nichts zu sehen. Eine Einzelmessung ist keine Zahl — auch dann nicht, wenn sie plausibel aussieht.

Bei der Genauigkeit gewinnen beide durch die Länge: 5,4 % auf der Karte, 6,2 % auf dem Büro-PC — deutlich besser als die 9,5 bis 9,7 % auf kurzem Material. Der zusätzliche Zusammenhang hilft dem Modell offenbar mehr, als die Länge schadet. Mit Abdriften über lange Aufnahmen, das wir befürchtet hatten, ist nichts.

Der überraschende Teil: Strom

Naheliegend wäre die Annahme, die 350-Watt-Grafikkarte sei der Stromfresser und der 45-Watt-Büro-PC die sparsame Wahl. Gemessen ist es umgekehrt.

Unter Last zieht die Karte im Mittel 247 Watt, mit Spitzen bis 321. Weil sie aber ein Vielfaches schneller fertig ist, kostet eine transkribierte Stunde Audio dort rund 1,7 Wattstunden — gegenüber 11,6 auf dem 65-Watt- und 8,8 auf dem 35-Watt-Büro-PC. Ein Fünftel bis ein Siebtel.

Im Leerlauf dreht sich das Verhältnis: Die Karte zieht 16 Watt, nur um bereitzustehen, der Büro-PC 3. Wer also viel zu transkribieren hat, fährt mit der Grafikkarte sparsamer; wer selten etwas zu tun hat und die Maschine eigens dafür laufen ließe, mit dem kleinen Rechner.

Beide Zahlen sind Teilmessungen des jeweils größten Verbrauchers — die Grafikkarte per Treiberauslesung, der Prozessor über seinen Energiezähler. Netzteil, Board und Speicher fehlen in beiden. Für den Vergleich der Größenordnung reicht das; für eine Stromrechnung nicht.

Was beide Maschinen gemeinsam haben

Ein Befund gilt für beide, unabhängig von der Hardware: Kurze Dateien verschenken Leistung. Dieselbe Audiomenge in Schnipseln statt am Stück kostet den Büro-PC ein Drittel seines Tempos — und die Workstation zwei Drittel: 39- statt 134-fache Echtzeit. Je schneller die Maschine, desto stärker fällt der Aufwand pro Anfrage ins Gewicht.

Für die Praxis heißt das: Eine Sitzung am Stück durchlaufen lassen, nicht vorher in Häppchen schneiden. Das ist kostenlos und wirkt auf jeder Hardware.

Die zweite Geräteklasse: langsamer und trotzdem besser

Die drei Büro-PCs sind nicht baugleich. Zwei sind von 2015/16 mit einem 35-Watt-Prozessor, einer von 2017 mit vollen 65 Watt. Naheliegend wäre, dem schnelleren die Arbeit zu geben.

Die Messung sagt etwas anderes. Der ältere, sparsame Rechner ist an derselben Stundenaufnahme nur 5 % langsamer (3,07× gegen 3,22×) bei exakt gleicher Fehlerrate — und zieht dabei 27,1 statt 37,3 Watt. Je transkribierter Stunde sind das 8,8 gegen 11,6 Wattstunden. Im Leerlauf ist der Unterschied noch größer: 0,2 Watt gegen 3,0.

Für Arbeit, die im Hintergrund läuft und nicht auf die Minute drängt, ist damit die sparsame Klasse die richtige. Das jüngere Gerät behält seine Sonderrolle aus einem anderen Grund: Es ist das einzige der drei, bei dem Intel eine Prozessorlücke von 2023 noch geschlossen hat — es bleibt der Ort für fremden Code.

Der Hauptserver: könnte, soll aber nicht

Zuletzt haben wir dieselbe Aufnahme über den Mac mini geschickt — mit Absicht im laufenden Betrieb, neben 178 Containern, und nachrangig eingeplant, damit die Produktion Vorrang behält.

Zwei Überraschungen. Der M4 ist 1,7-mal schneller als der leere Büro-PC, obwohl er nebenbei die halbe Vereinsinfrastruktur trägt. Und er liefert die beste Genauigkeit der drei — bei exakt derselben Software wie der Büro-PC. Der Unterschied dürfte an den ARM-Rechenkernen der Bibliothek liegen; 0,7 Punkte sind wenig, waren aber über drei Läufe stabil.

Trotzdem gehört die Arbeit nicht dorthin. Der Mini swappt schon im Leerlauf (1,1 von 2 GB), und ein einziger Transkriptionslauf hob die Systemlast von 2,7 auf 7,0 von zehn Kernen. Was dort rechnet, nimmt es Diensten weg, die jemand in dem Moment benutzt. Die Messung sagt technisch ja und betrieblich nein — und beides zu wissen ist mehr wert als nur eines.

⚠️ Die Zahl ist deshalb nicht direkt mit den anderen vergleichbar: Die übrigen Maschinen liefen leer. Was ein M4 ohne Nachbarn kann, wissen wir weiterhin nicht.

Was daraus folgt

Die bestehende Zuordnung bleibt richtig, und das ist ein legitimes Ergebnis: Spracherkennung gehört auf die Workstation. Sie ist schneller, gleich genau und je Arbeitseinheit sparsamer.

Der Büro-PC ist damit kein Ersatz — aber er ist mehr als eine Fingerübung. Die Workstation stürzt gelegentlich hart ab, und bisher bedeutete das schlicht: keine Transkription. Jetzt ist belegt, dass ein Ausweichweg existiert, der die gleiche Qualität liefert und nur mehr Zeit braucht. Für einen Verein, der seine Dienste selbst betreibt, ist ein bezifferter Notnagel mehr wert als eine weitere schnelle Maschine.

Offen bleibt der Hauptserver. Er trägt 176 Container und damit alles, was Mitglieder täglich benutzen — weshalb eine Volllastmessung dort nicht nebenbei passieren kann. Sie steht als Nächstes an, zu einer angekündigten ruhigen Stunde.