Voordat ze een lokale dicteerapp installeren, stellen de meeste mensen dezelfde vraag: heb ik een grafische gaming-kaart nodig, of kan mijn laptop dit aan? De GPU-angst is begrijpelijk — “AI” en “GPU” zijn synoniem geworden in het nieuws. Maar een afgerond model op je eigen machine draaien om je eigen stem te transcriberen is een compleet andere taak dan modellen trainen in een datacenter, en de hardwarevereisten zijn een orde van grootte kleiner.
Het directe antwoord: NVIDIA’s Parakeet TDT-model draait op RTF 0,033 op een gewone Intel i7-CPU — 30 keer sneller dan realtime, geen GPU vereist. Whisper small met int8-kwantisering draait ongeveer 7,8× realtime op dezelfde klasse hardware. Voor alledaags dicteren is dat ruim snel genoeg. Dit is het volledige plaatje, met echte benchmarkcijfers.
Waarom mensen denken dat ze een GPU nodig hebben
De associatie is misplaatst maar begrijpelijk. De GPU’s die je in AI-koppen ziet doen een van twee dingen: modellen vanaf nul trainen op petabytes aan data in een datacenter, of duizenden gelijktijdige gebruikers bedienen via een cloud-API. Beide taken hebben echt rekken vol grafische kaarten nodig.
Een afgerond, gekwantiseerd model op je eigen machine draaien om een paar seconden van je eigen stem te transcriberen is een compleet andere werklast. Je doet inferentie op de audio van één persoon, een paar seconden per keer. De rekenbehoefte is ordes van grootte kleiner.
De andere bron van verwarring zijn benchmarks uit 2022 van de originele Python-versie van OpenAI Whisper op CPU. Die implementatie was echt traag — een gebruiker met een Ryzen 5 3600 meldde 11 minuten om 31 seconden audio te verwerken met het medium-model. Die benchmark wordt voortdurend geciteerd en klopt nog voor Python-Whisper, maar heeft niets te maken met de whisper.cpp-implementatie die dicteerapps vandaag gebruiken. whisper.cpp met gekwantiseerde modellen op een moderne CPU is een compleet andere ervaring.
Wat spraak naar tekst echt vereist
De echte vereisten zijn bescheiden:
- Een moderne CPU. Elke processor van ruwweg het laatste decennium met AVX-instructies — dat is bijna elke laptop en desktop verkocht sinds 2015.
- Een paar gigabyte vrij RAM. Dit is de belangrijkste beperking, en die is kleiner dan mensen verwachten (zie de tabel hieronder).
- Schijfruimte voor het model. Een eenmalige download, meestal 75 MB tot 3 GB afhankelijk van het model dat je kiest.
Geen enkele grafische kaart komt ergens in die lijst voor.
RAM-vereisten per model (volgens het whisper.cpp-project):
| Model | Schijf (GGML) | RAM in gebruik |
|---|---|---|
| Whisper tiny | 75 MB | ~273 MB |
| Whisper base | 142 MB | ~388 MB |
| Whisper small | 466 MB | ~852 MB |
| Whisper medium | 1,5 GB | ~2,1 GB |
| Whisper large-v3 | 2,9 GB | ~3,9 GB |
| Parakeet TDT v3 | ~2,3 GB | ~1,5 GB |
Een machine met 8 GB RAM in totaal en 4 GB vrij draait Whisper small of Parakeet comfortabel. Dat is een tamelijk bescheiden machine naar de maatstaven van 2026.
De echte benchmarkcijfers
Dit is wat modellen echt draaien op verschillende hardware. Een RTF (realtime-factor) onder 1,0 betekent sneller dan realtime — het model transcribeert audio sneller dan die afspeelt. RTF 3,0 betekent dat 1 minuut audio 3 minuten kost om te verwerken.
De prestatiewinnaar is niet wat de meeste mensen verwachten. NVIDIA’s Parakeet TDT v3 op een moderne Intel i7-CPU (i7-12700KF) haalt RTF 0,033 — ongeveer 30× sneller dan realtime. Ter vergelijking: faster-whisper met het large-v2-model op een RTX 3070 Ti-GPU haalt RTF ~0,076 — ongeveer 13× realtime. Parakeet op CPU is sneller dan Whisper op een middenklasse-GPU.
De reden is architectonisch. Parakeet TDT is een Token-and-Duration Transducer — een niet-autoregressief model dat de volledige audio in één voorwaartse ronde door de encoder haalt. Whisper gebruikt een autoregressieve decoder die tokens één voor één in een lus genereert, wat inherent sequentieel en trager is. Voor korte audiofragmenten maakt dit veel uit.
Apple Silicon is een speciaal geval. Elke Mac met een M-serie-chip (M1 tot M4) gebruikt automatisch Metal-GPU-versnelling in whisper.cpp en in SnailText. Een M1-Mac die Whisper large-v3 via Metal draait haalt ongeveer realtime (RTF ~1,0) — goed genoeg om te dicteren zonder aparte GPU. Een M2 Pro met Metal draait large-v3 op 2,5× realtime. MacBook-gebruikers hebben geen GPU-probleem.
Windows-gebruikers zonder aparte GPU hebben een genuanceerder beeld. Een moderne i7 (12e/13e gen) draait Whisper small op ongeveer 7-8× realtime — comfortabel om te dicteren waar elke zin 5-15 seconden is. Een Ryzen-CPU uit de middenklasse draait large-v3 op RTF ~3,0 — te traag voor interactief dicteren. Het juiste antwoord voor Windows met alleen CPU is: Parakeet TDT (30× realtime) of Whisper small (7-8× realtime). Niet Whisper large.
Nog één ontwikkeling om te kennen: whisper.cpp 1.8.3 voegde ondersteuning voor geïntegreerde GPU’s toe via Vulkan, met een prestatiewinst van ongeveer 12× op geïntegreerde AMD Radeon 680M- en Intel Arc-graphics. Als je Windows-laptop een moderne AMD Ryzen (6000+) of Intel 12e-gen+ heeft, kan whisper.cpp die geïntegreerde GPU automatisch gebruiken — wat de latency aanzienlijk verlaagt, zelfs zonder aparte kaart.
”De CPU is te traag” hangt volledig van het model af
Mensen zeggen “lokaal dicteren is traag op CPU” alsof de chip het probleem is. De variabele is het model.
Kleinere Whisper-modellen — tiny, base, small — draaien op of sneller dan realtime op elke laptop-CPU van 2020 en later. De ervaring is snel. Grote Whisper-modellen — medium en large-v3 — zijn echt traag op CPU: meerdere keren trager dan realtime op typische hardware. Dat is het geval dat mensen onthouden en melden, en het geeft de CPU een slechte naam die de kleinere modellen niet verdienen.
Kwantisering maakt ook een merkbaar verschil. De int8-gekwantiseerde versie van een model draait aanzienlijk sneller dan de float16-versie op CPU met verwaarloosbaar nauwkeurigheidsverlies. faster-whisper-benchmarks tonen het small int8-model dat 13 minuten audio in 102 seconden voltooit op een i7-12700K — de float32-versie kost 157 seconden voor hetzelfde bestand. De gekwantiseerde versie van een model kiezen is gratis snelheid.
Wanneer een GPU zich echt terugverdient
Om eerlijk te zijn tegen de andere kant: een aparte GPU is een echte verbetering in specifieke situaties.
Large-v3 realtime draaien op Windows. Een RTX 3090 verwerkt 1 minuut audio in ongeveer 11 seconden (RTF ~0,19). Dezelfde CPU-taak op een Ryzen 7 kost ongeveer 3 minuten. Als de nauwkeurigheid van large-v3 je eis is en je op Windows zit zonder Apple Silicon, is een GPU niet optioneel — het is de enige manier om er te komen.
Batch-transcriptie van lange opnames. 1 uur audio op een RTX 3090 met large-v3 kost ongeveer 5 minuten. Op een Ryzen 7-CPU kost dezelfde klus ongeveer 3 uur. Als je regelmatig podcasts, colleges of lange vergaderingen transcribeert, bespaart een GPU echte tijd over de week.
Meertalig dicteren met hoge nauwkeurigheid. Als je dicteert in een taal waar kleinere modellen merkbaar hogere foutpercentages hebben, heb je misschien medium of large nodig — en daar maakt de GPU verschil.
Voor alledaags dicteren — korte zinnen, één persoon, stop-en-transcribeer — merk je de GPU niet.
De vier hardwaresituaties
MacBook (elke M-serie-chip): Geen GPU-zorg. Metal-versnelling is automatisch. De M1 verwerkt large-v3 realtime. De M2 Pro verwerkt het op 2,5× realtime. Gebruik SnailText, kies elk model, en het werkt. De enige beslissing is of je de snelheid van een kleiner model wilt of het nauwkeurigheidsplafond van large.
Windows-laptop, alleen geïntegreerde graphics (geen aparte GPU): Gebruik Parakeet TDT voor het Engels — 30× realtime op CPU, geen GPU nodig. Of gebruik Whisper small (7-8× realtime). Als je chip Vulkan ondersteunt (AMD Ryzen 6000+ of Intel 12e-gen+), gebruikt whisper.cpp je geïntegreerde GPU automatisch voor extra versnelling. Vermijd Whisper large — het is te traag zonder aparte kaart.
Windows-desktop of -laptop met aparte NVIDIA/AMD-GPU: Elk model draait goed. Whisper large-v3-turbo op een RTX 2080 Ti verwerkt 13 minuten audio in 19 seconden. Large-v3 op een RTX 3090 kost 11 seconden per audiominuut. Kies je nauwkeurigheidsniveau en de GPU regelt het.
Oude hardware (van vóór 2015, of energiezuinige ARM): Alleen Whisper tiny of base. Het tiny-model van whisper.cpp draait op een Raspberry Pi 4 ongeveer realtime met geoptimaliseerde instellingen (-ac 512). Een heel oude Intel (Core i5-460M, 2010) haalt RTF ~0,86 met base — net onder realtime. Werkbaar voor het juiste geval, maar de ervaring is traag naar de maatstaven van vandaag.
Hoe SnailText dit aanpakt
SnailText draait Whisper en Parakeet TDT lokaal op Mac en Windows, op welke hardware je ook hebt. Wanneer je het voor het eerst installeert, detecteert SnailText je hardware — CPU-generatie, beschikbare GPU, VRAM — en beveelt een model aan dat bij je machine past.
Op een MacBook met M-serie beveelt het een model aan dat Metal benut. Op een Windows-machine met aparte GPU beveelt het een groter Whisper-model aan en gebruikt het Vulkan-GPU-versnelling. Op een Windows-machine met alleen CPU beveelt het Parakeet TDT aan (30× realtime op CPU, Engels) of Whisper small — modellen die snel blijven zonder grafische kaart.
Die aanbeveling is een startpunt, geen kooi. Je kunt op elk moment overschakelen naar elk beschikbaar model in de Instellingen — een kleiner, sneller model als je directe respons waardeert, of een groter, nauwkeuriger model als je machine het aankan.
SnailText is gratis om te beginnen, vraagt geen account, en draait volledig op je apparaat. Het model wordt één keer gedownload en werkt daarna offline. Het praktische antwoord op “heb ik een GPU nodig” om te dicteren is nee — maar SnailText vertelt je precies welk model bij jouw specifieke machine past.
De Pro-versie voegt Parakeet TDT en de grotere Whisper-modellen toe ($7.49 / month · $89 / year), met lokale LLM-nabewerking die technische termen en identifier-stijl automatisch opschoont. De gratis versie bevat Whisper compact en base — snel op elke CPU, geen account nodig.
De korte versie
Je hebt geen GPU nodig voor spraak naar tekst. Een moderne CPU en 4 GB vrij RAM zijn genoeg voor snel, nauwkeurig lokaal dicteren. NVIDIA’s Parakeet TDT draait op 30× realtime op een gewone i7 — sneller op CPU dan Whisper op een middenklasse-GPU. Whisper small draait op 7-8× realtime op moderne Intel/AMD. Het geloof dat je «een GPU voor AI nodig hebt» komt van trainingswerklasten in datacenters, niet van het transcriberen van je eigen stem.
Waar een GPU echt uitmaakt: Whisper large-v3 realtime draaien op Windows, uren audio batch-transcriberen, of serverimplementaties met hoge gelijktijdigheid. Voor stop-en-dicteer één zin per keer — het kerngebruik van dicteerapps — is de CPU voor de meeste mensen het juiste gereedschap.
Stem het model af op je machine, of laat SnailText het automatisch doen, en dicteren op CPU is snel.
Benchmarkbronnen: whisper.cpp README (RAM-tabel); whisper.cpp GitHub discussions #89, #166, #3752; JustVoice Apple Silicon benchmarks; Parakeet TDT DeepWiki benchmarks; faster-whisper README; 1qubit.de GPU benchmarks; Phoronix whisper.cpp 1.8.3 iGPU.