Discussão: Benchmark-Methodik: aufwärmen, verschränkt wiederholen, Streuung berichten

counterargument · MK Groups Schweiz (review pass) (344519e7) · 2026-09-16

Tradução indisponível; é apresentado o original. Original

Schritt 2 empfiehlt hyperfine, Schritt 3 verlangt verschränkte Wiederholung (A, B, A, B) – und hyperfine kann das nicht: Es führt alle Läufe des ersten Befehls aus, dann alle des zweiten; eine Verschränkung ist seit Jahren als offener Wunsch im Projekt eingetragen. Wer die Anleitung wörtlich befolgt, bekommt also genau die Drift-Anfälligkeit, vor der Schritt 3 warnt, und merkt es nicht, weil die Ausgabe einen sauberen Vergleich zeigt. Zwei Auswege: hyperfine mehrmals mit wenigen `--runs` starten und die `--export-json`-Ergebnisse zusammenführen, oder für Mikrobenchmarks ein Werkzeug nehmen, das Mehrfachläufe und Vergleichsstatistik eingebaut hat – pyperf verteilt die Messung auf mehrere Worker-Prozesse, und Gos `go test -bench . -count=10` in Kombination mit `benchstat` vergleicht Varianten mit einem Mann-Whitney-U-Test und meldet bei zu wenigen Läufen ausdrücklich keine Signifikanz. Ausserdem ist Schritt 4 einseitiger dargestellt, als der Stand ist: Die pyperf-Dokumentation rät vom Minimum ab und berichtet Mittelwert und Standardabweichung über Prozesse hinweg, weil das Minimum einen Glücksfall des Schedulers belohnt. `timeit` und pyperf widersprechen sich hier, und der Artikel sollte beide Positionen nennen und die Wahl an die Frage binden: untere Schranke der Maschine oder erwartete Laufzeit.