mlx-whisper-batch: Diktate über Nacht transkribieren

Über die Jahre ist bei mir ein Archiv aus Diktaten angewachsen: digitaler Recorder, Handy, mal MP3, mal M4A, mal 3GA. Früher hatte ich die Idee, ich würde mir das irgendwann nochmal anhören. Natürlich tut man das nicht, sobald richtig viel zusammenkommt. Dann entsteht eher so ein Datenschrottplatz — unzugänglich, obwohl der Inhalt potenziell wertvoll wäre.

Mit Whisper gibt es inzwischen ein Tool, das solche Aufnahmen vernünftig als Text erkennen kann. Genau das wollte ich machen — und bin sofort auf die Einschränkung gestoßen: In so einem Archiv steckt oft Sensibles. Kunden, private Dinge, Gründe genug, das nicht in die Cloud zu schicken. Abgesehen davon wird Cloud-Transkription bei großen Archiven plötzlich teuer: schnell mehrere hundert Euro.

Dann habe ich mit großer Begeisterung herausgefunden, dass das auf einem aktuellen Apple-Silicon-Mac lokal in absolut brauchbarer Geschwindigkeit läuft. Auf meinem M5 (Standard) liegt das ungefähr bei zehnfacher Echtzeit: zehn Stunden Audio in einer Stunde. Das ist der Punkt, an dem aus „irgendwann mal“ ein konkretes Vorhaben wird.

Deshalb habe ich mlx-whisper-batch gebaut und unter MIT veröffentlicht.

Was es tut

Du zeigst dem CLI whisper-batch einen Ordner mit Audio. Es findet die Dateien, transkribiert sie mit MLX Whisper auf Apple Silicon und legt neben jede Aufnahme ein .json (volle Segmente) und ein .txt (eine Zeile pro Segment).

Erste Nutzung lädt das Whisper-Modell von Hugging Face (~3 GB, einmalig). Danach läuft es aus dem Cache.

Warum nicht einfach Whisper „durchlaufen“ lassen?

Whisper kann sich in Wiederholungsschleifen verfangen: dieselbe Zeile endlos. Bei langen Diktaten merkst du das oft erst nach einer halben Stunde Müll.

Deshalb transkribiert das Tool in Zeit-Chunks und prüft nach jedem Chunk, ob sich Segmente wiederholen. Wenn ja: Abbruch, Retry mit sichereren Einstellungen (condition_on_previous_text=false). Die Wartezeit ist etwa ein Chunk Whisper-Zeit — nicht die ganze Aufnahme.

Für wen

• macOS Apple Silicon (M1 oder neuer) — MLX, kein Linux/Windows/Intel
• Ordner mit Voice-Recordings (WAV, MP3, M4A, AAC, 3GA, …)
• Wer über Nacht batchen will: caffeinate -i whisper-batch /pfad --recursive

Was es nicht ist

Kein Cloud-Service, keine Web-UI, kein Editor für die Transkripte. Nur der Batch-Schritt: Archiv rein, Text neben die Dateien. Den Rest (Nachbearbeitung, Suche, …) lasse ich bewusst außen vor. Vielleicht später als eigenes Tool...