Voor een productie-spraakagent in 2026: gebruik Parakeet TDT v3 als je audio korte Engelse opdrachten op CPU zijn, gebruik Whisper Large-v3-Turbo (via Groq of zelfgehost) als je gebruikers spraak met accent of domeinvocabulaire hebben, gebruik Qwen3-ASR als je meertalig met gemengde talen nodig hebt. Het volledige antwoord hangt af van hoe je audio er echt uitziet — en daar houden de benchmarkcijfers op nuttig te zijn.
De benchmarks zeggen Parakeet. De productierapporten zeggen “het hangt ervan af”. Beide hebben gelijk. Dit is hoe die afhankelijkheid er echt uitziet.
De WER-cijfers in de tabel hierboven zijn benaderende waarden van de LibriSpeech-testset voor schoon Engels volgens gepubliceerde benchmarks van NVIDIA en OpenAI. Productie-WER varieert aanzienlijk met de audiocondities, het accent en het domeinvocabulaire.
De drie modellen en wat ze proberen te doen
Parakeet TDT v3 is NVIDIA’s streaming-native ASR-model. TDT staat voor Token-and-Duration Transducer — een architectuur gebouwd voor realtime inferentie in plaats van offline transcriptie. De v3-versie dekt 25 talen bij 0,6B parameters. Parakeet v2 is alleen Engels bij dezelfde grootte en is consistent sneller op CPU dan v3 omdat het de meertalige overhead niet draagt. Beide leveren realtime-factoren ruim onder 0,1 op een moderne CPU — wat betekent dat een clip van 10 seconden in onder 1 seconde transcribeert zonder GPU.
Whisper Large-v3-Turbo is OpenAI’s gecomprimeerde versie van Large-v3, getraind om tegen ruwweg de helft van de rekenkosten te draaien terwijl het het grootste deel van de nauwkeurigheid herstelt. Het is niet Parakeet-snel op CPU, maar het heeft twee dingen die Parakeet niet heeft: 99 talen met sterke prestaties over alle, en vier jaar productie-implementatie over honderden downstream-apps, wat betekent dat zijn faalmodi goed gedocumenteerd zijn. Op Groq’s inferentiehardware levert gehoste Whisper Turbo 300 ms end-to-end latency per verzoek — sneller dan de meeste zelfgehoste opstellingen op standaard-GPU’s kunnen halen.
Qwen3-ASR is Alibaba’s meertalige ASR-modelfamilie uit 2026, met de kleinste variant bij 0,5B parameters. Het concurreert met Parakeet op grootte en met Whisper op taalbreedte. Zijn kerncapaciteit is ondersteuning voor gemengde talen — audio die Hindi en Engels, of Spaans en Engels, in dezelfde uiting mengt. Dit is een echt lastig probleem voor Whisper (wiens trainingsdata meestal monolinguaal per segment is) en waar de trainingsaanpak van Qwen3-ASR het een voordeel geeft.
Nemotron ASR 3.5 — niet in de oorspronkelijke vraag maar opduikend in productiedraadjes tegen juni 2026 — is NVIDIA’s streaming-first vervanger voor de Canary-familie. Ontworpen voor NVIDIA NIM-implementatie, meet het sneller dan Parakeet en verwerkt het 400+ gelijktijdige sessies per H100 volgens vroege productierapporten. Het heeft een gedocumenteerd koude-start-artefact waarbij de eerste 1-2 seconden van elke sessie minder nauwkeurig zijn, wat meer uitmaakt in een spraakagent dan in een batch-transcriptiepijplijn.
Nauwkeurigheid in cijfers. Op de LibriSpeech-testset voor schoon Engels haalt Parakeet TDT v2 (alleen Engels) ongeveer 2,5-4% WER, Parakeet TDT v3 ongeveer 3-5% WER (de meertalige overhead voegt een kleine nauwkeurigheidskost toe voor het Engels), Whisper Large-v3-Turbo ongeveer 2-3% WER, en Qwen3-ASR 0,5B ongeveer 3-5% WER. Whisper Large-v3 (volledig, 1,5B parameters) haalt ongeveer 2% WER — het nauwkeurigheidsplafond tegen een merkbare rekenkost. Deze cijfers komen uit gepubliceerde benchmarks van NVIDIA en OpenAI op de standaard academische testset. De kloof tussen modellen versmalt aanzienlijk op productie-audio met accenten, achtergrondgeluid, of korte conversationele zinnen.
Het probleem met benchmarkvergelijkingen
Telkens wanneer iemand een benchmark plaatst die deze modellen vergelijkt, produceert de commentaarsectie betrouwbaar twee observaties:
- “Parakeet wint op snelheid en WER op de LibriSpeech-testset.”
- “Ja, maar mijn productie-audio is geen LibriSpeech.”
Beide zijn waar. De LibriSpeech-testset voor schone spraak is voorgelezen spraak uit luisterboeken — gearticuleerd, stil, accentneutraal, volledige zinnen. Spraakagent-audio is conversationele spraak, vaak van een telefoon- of laptopmicrofoon, vaak met achtergrondgeluid, vaak van niet-native sprekers, vaak opdrachtzinnen van 1-3 seconden in plaats van paragrafen van 10-30 seconden.
Deze twee audiotypes bevoordelen verschillende modellen.
Voor korte conversationele opdrachten (1-3 seconden, “Wat is het weer” of “Zet een timer van 10 minuten”), is het architectuurvoordeel van Parakeet aanzienlijk. Whisper’s contextvenster van 30 seconden is ontworpen rond audio van documentlengte. Op zeer korte clips betaalt Whisper de volledige contextoverhead voor een kleine hoeveelheid echte spraak. Parakeet’s transducer-architectuur verwerkt elk token zodra het aankomt — het buffert niet tot 30 seconden. Het praktische resultaat is wat één productie-implementeerder omschreef als een “enorme sprong in WER” bij het overschakelen van Whisper Turbo naar Parakeet voor opdrachtzinnen van 1-2 seconden.
Voor spraak met accent en domeinspecifiek vocabulaire keert de richting om. Whisper’s trainingscorpus is enorm veel groter en gevarieerder. Het heeft Indiaas Engels, Brits Engels, Australisch Engels, Duits-geaccentueerd Engels, en honderden andere varianten in enorme hoeveelheid gezien. Parakeet v3 is sterk op geaccentueerd Engels maar smaller in trainingsdata. Wanneer het vocabulaire bedrijfsspecifieke terminologie, productnamen, technische afkortingen, en andere domeinwoorden bevat die zelden in de trainingsdata voorkomen, winnen Whisper’s grotere contextvenster en rijkere trainingsdistributie consistent.
Daarom kan dezelfde persoon naar waarheid zeggen “ik benchmarkte Parakeet en het is beter” en “in mijn productie-agent is Whisper beter” — ze optimaliseren voor verschillende audiodistributies.
Hoe productie-implementaties er echt uitzien
Er komt een patroon naar voren over de productie-implementatiedraadjes:
Groq-gehoste Whisper Turbo voor lage-tot-middelmatige gelijktijdigheid. Tegen 0,04 $ per audio-uur is Groq’s gehoste eindpunt moeilijk te verslaan voor spraakagenten onder een paar honderd gelijktijdige sessies. De 300 ms heen-en-weerlatency is competitief met zelfgehoste GPU-inferentie op standaardhardware, en de ontwikkelaarservaring verwijdert het GPU-provisioning-probleem volledig. Voor een team dat een product bouwt in plaats van GPU-infrastructuur beheert, is dit de praktische standaard in 2026.
Zelfgehost Parakeet voor edge- en CPU-beperkte implementaties. Als je inferentie draait op edge-apparaten (NVIDIA Jetson, consumentenlaptops, mobiele SoC’s), is Parakeet v2 (alleen Engels INT8) bij ~600 MB RAM de huidige beste optie. Een realtime-factor onder 0,1 betekent dat een spraakopdracht van 2 seconden transcribeert voordat de gebruiker klaar is met het verwerken van zijn eigen gedachte. Niets anders bij deze modelgrootte evenaart het.
Faster-Whisper (BF16) voor zelfgehoste GPU met Whisper-nauwkeurigheid. Faster-whisper is een op CTranslate2 gebaseerde herimplementatie van Whisper die 4x sneller draait dan de originele Python-implementatie op dezelfde hardware — het productiepad dat steeds terugkwam voor teams die Whisper-kwaliteit met zelfgehoste latency nodig hebben, niet whisper.cpp. BF16-kwantisering op een A100 of H100 haalt sub-seconde latency voor korte clips terwijl het de nauwkeurigheid dicht bij de FP16-baseline houdt. De RedHatAI FP8-dynamic Whisper-kwantisering is een actief experiment om verder te gaan.
Afgestelde domeinmodellen voor gespecialiseerd vocabulaire. Het consistente advies van ingenieurs die productie-spraakagenten hebben geleverd: kies een van de drie basismodellen, verzamel 500-2000 voorbeelden van je echte productie-audio (met je specifieke accenten, terminologie, en geluidsprofiel), stel af, kwantiseer naar INT8 met ONNX, en implementeer. De winst van fine-tuning op domeindata is groter dan de winst van het wisselen van basismodel. Alle drie modellen verwerken algemene gesprekken direct goed. Technische woorden, bedrijfsspecifieke terminologie, en domeinafkortingen zijn waar geen van hen betrouwbaar is zonder fine-tuning — de kloof tussen een generiek model en een afgesteld model op gespecialiseerd vocabulaire is aanzienlijk groter dan de kloof tussen Parakeet en Whisper op dezelfde domeindata.
De latency-rekensom
Voor een realtime spraakagent met een STT → LLM → TTS-pijplijn moet de STT-stap ruim onder 500 ms waargenomen latency bijdragen om responsief aan te voelen. Dit zijn de realistische cijfers:
Parakeet TDT v3 op CPU (moderne laptop, clip van 1-3 seconden): 50-150 ms. Dit is snel genoeg dat de bottleneck volledig verschuift naar je LLM-inferentie. Als je een klein lokaal LLM draait en je TTS snel is, kan Parakeet op CPU een volledig lokale pijplijn produceren die responsief aanvoelt.
Whisper Turbo via Groq (clip van 1-3 seconden): 200-350 ms inclusief netwerk-heen-en-weer. Snel genoeg voor de meeste spraakagenten. De netwerklatency is de variabele — als je gebruikers geografisch ver van Groq’s datacenters zitten, kan dit oprekken.
Zelfgehost Whisper Turbo (L40S of H100 via cloud): 150-400 ms afhankelijk van of het model warm is, batchgrootte, en cliplengte. Het GPU-koude-start-probleem — modellaadlatency — telt als je inferentie-instanties dynamisch op- en afschaalt.
Qwen3-ASR 0,5B op CPU (clip van 1-3 seconden): 300-800 ms afhankelijk van de hardware. Trager dan Parakeet op CPU, sneller dan grote Whisper, competitief met Whisper Turbo op degelijke hardware.
Nemotron ASR 3.5 via NIM (H100): onder 100 ms op schaal, met het koude-start-artefact in de eerste 1-2 seconden van elke sessie. Het cijfer van 400+ gelijktijdige sessies per H100 is wat het aantrekkelijk maakt voor implementaties met groot volume.
De meertalige en accentvraag
De vraag hoe deze modellen niet-neutraal Engels verwerken is de meest ingrijpende voor productie-implementaties en de minst goed bediend door gepubliceerde benchmarks.
Indiaas-accent Engels
Indiaas-accent Engels is het niet-Amerikaanse Engelse accent met het grootste volume op internet en het expliciete brandpunt van verscheidene productie-implementatiedraadjes. De productierapporten in 2026 neigen consistent naar Whisper. De combinatie van accent, tempovariatie, en gemengd technisch/conversationeel vocabulaire (code-identifiers, bedrijfsproductnamen, Hinglish code-switching) is waar Whisper’s trainingsbreedte zich toont. Verscheidene teams rapporteren de overstap van faster-whisper (voor latency) naar Groq-gehoste Whisper (voor Indiaas-accent-nauwkeurigheid) en het accepteren van de gehoste afhankelijkheid als de juiste ruil.
Gemengde spraak (Hinglish, Spanglish)
Qwen3-ASR is specifiek interessant voor uitingen die echt midden in een zin tussen talen wisselen. Whisper verwerkt code-switching minder betrouwbaar omdat zijn trainingssegmenten meestal monolinguaal zijn. Parakeet v3’s dekking van 25 talen verbetert v2 maar is niet ontworpen voor wisselen binnen een uiting. Qwen3-ASR werd getraind op gemengde data en verwerkt het structureel beter. Voor een spraakagent waar gebruikers natuurlijk Hindi en Engels in dezelfde zin mengen, is Qwen3-ASR een benchmark waard op je echte audio voordat je je bindt aan Whisper.
Europees-accent Engels
Voor Duitse, Franse, Spaanse en Nederlandse accenten op technisch vocabulaireniveau houdt Whisper’s dominantie in trainingsdata stand. Alle drie modellen verwerken schone Europese accenten goed op foneemniveau; de divergentie toont zich in domeinvocabulaire — bedrijfsnamen, productidentifiers, en technische afkortingen die zelden in de trainingsdata van welk model dan ook voorkomen.
Wanneer elk model te gebruiken
Gebruik Parakeet TDT v3 wanneer:
- Je spraakagent korte opdrachten (onder 3 seconden) van Engelse sprekers verwerkt
- Je implementeert op CPU of edge-hardware waar het latencybudget krap is
- Je audio relatief schoon is en de accentvariatie beperkt is
- Je alleen Engels nodig hebt en v2 wilt voor maximale CPU-snelheid
Gebruik Whisper Turbo (via Groq of zelfgehost) wanneer:
- Je gebruikers geaccentueerd Engels hebben of je meerdere talen nodig hebt
- Je vocabulaire domeinspecifieke termen, afkortingen, of eigennamen bevat
- Je een beproefd model wilt met duizenden productie-implementaties aan bekende faalmodi
- Je gelijktijdigheid laag tot middelmatig is en beheerde hosting acceptabel is
Gebruik Qwen3-ASR wanneer:
- Je te maken hebt met gemengde talen (Hinglish, Spanglish, enz.)
- Je competitieve meertalige dekking wilt bij een kleine modelgrootte
- Je bereid bent een minder communitygeteste model te accepteren in ruil voor het meertalige voordeel
Overweeg Nemotron ASR 3.5 wanneer:
- Je NVIDIA-GPU-infrastructuur draait en NIM-implementatie wilt
- Hoge gelijktijdigheid (honderden sessies per GPU) een harde eis is
- Je het koude-start-artefact kunt omzeilen of detecteren
De fine-tuning-beslissing
Elke praktische gids over productie-ASR komt uiteindelijk bij dezelfde conclusie: als nauwkeurigheid op je specifieke audio de beperking is, verslaat fine-tuning de modelselectie. Dit is geen voorbehoud — het is een structureel feit over hoe deze modellen werken.
De basismodellen zijn getraind om te generaliseren over alle audiotypes. Je productie-audio is niet alle audiotypes — het is je gebruikers, in je gebruik, met je vocabulaire. De informatie in je productie-audio die je domein onderscheidt van het algemene geval zit niet in het basismodel, want het kon dat niet — je product bestond niet toen het model werd getraind.
Het verzamelen van 500-2000 voorbeelden van je echte productie-audio, ze labelen (of een bestaand model gebruiken voor pseudo-labeling en dan fouten corrigeren), en 1-10 uur rekenkracht op een enkele A100 afstellen is binnen bereik voor elk team met een engineeringbudget. De nauwkeurigheidswinst van fine-tuning op 1000 domeinvoorbeelden overtreft consistent het overschakelen van het ene frontier-model naar het andere.
INT8-kwantisering via ONNX na de fine-tuning geeft je implementatie-efficiëntie zonder substantieel nauwkeurigheidsverlies op het doeldomein.
Waar SnailText in dit plaatje past
SnailText is een desktopdicteerapp, geen spraakagent-infrastructuurproduct, maar het levert zowel Whisper als Parakeet TDT in hetzelfde binary — wat betekent dat we precies deze vergelijking draaien op echte consumentenhardware op schaal.
De praktische les daaruit: voor desktopdicteren (zinnen van 5-30 seconden, stil thuiskantoor, enkele taal, Engels-dominant), landen Parakeet TDT v3 en Whisper Medium op vergelijkbare nauwkeurigheid voor de meeste gebruikers. Parakeet is sneller op CPU. Grote Whisper-modellen verbeteren de nauwkeurigheid voor spraak met accent merkbaar. Het juiste model hangt af van de hardware voor je, niet van een benchmark gedraaid op iemand anders’ server.
Je kunt beide lokaal proberen op Mac of Windows met de gratis versie — Whisper Tiny en Base zijn inbegrepen, Parakeet en grotere Whisper-modellen zitten in Pro. Het verschil tussen modellen is iets dat je onmiddellijk voelt op je eigen stem, wat uiteindelijk de enige benchmark is die telt voor je specifieke gebruikers.
De productie-spraakagentvraag is lastiger omdat de audiodiversiteit breder is en de latencybeperkingen strenger. Maar de onderliggende les is dezelfde: het model dat wint op je audio is het model om te leveren, en dat kom je te weten door te testen op je audio, niet door een benchmark te lezen.