SnailText
ES

ASR en producción · 2026

Parakeet TDT v3 vs Whisper Turbo vs Qwen3-ASR qué usa de verdad la gente en producción

Tres modelos ASR abiertos, una pregunta real — cuál aguanta cuando usuarios reales hablan a micrófonos reales a las 3 de la mañana con acentos y ruido de fondo. Esto es cómo se ven los despliegues en producción en 2026.

Por el fundador de SnailText · Publicado

Versión corta

Para IA de voz en producción en 2026: Parakeet TDT v3 es el más rápido en CPU (RTF < 0,1×, 50-150 ms para un clip de 2 segundos, ~3-5% WER en inglés limpio) y gana en comandos cortos. Whisper Large-v3-Turbo gana en habla con acento, vocabulario de dominio y 99 idiomas (~2-3% WER); la versión alojada de Groq entrega menos de 300 ms a $0,04/hora de audio sin autohospedaje. Qwen3-ASR es la tercera opción para habla mezclada como el hinglish. En benchmarks limpios, Parakeet lidera en velocidad. En audio de producción con acentos o vocabulario de dominio, Whisper lidera en calidad. Ajustar 500-2000 ejemplos de dominio supera a cambiar de modelo base.

Comparación de modelos de un vistazo

Comparación de modelos de un vistazo (verified 2026-06-28)
Modelo Tamaño RTF (CPU) RTF (A100) Idiomas WER (LibriSpeech*) Mejor para
Parakeet TDT v3 0.6B < 0.1× < 0.01× 25 ~3-5% Comandos cortos, agentes CPU de baja latencia
Parakeet TDT v2 (solo EN) 0.6B < 0.1× < 0.01× 1 (EN) ~2.5-4% Solo inglés, mejor relación velocidad/precisión en CPU
Whisper Large-v3-Turbo 809M ~0.5-1× < 0.05× 99 ~2-3% Habla con acento, vocabulario de dominio, multilingüe
Qwen3-ASR 0.5B 0.5B ~0.3-0.8× < 0.05× 100+ ~3-5% Lenguas mezcladas, multilingüe a bajo tamaño
Nemotron ASR 3.5 ~600M < 0.1× < 0.01× ~20 ~2-4% Streaming, despliegue NIM, alta concurrencia
Whisper Large-v3 (completo) 1.5B ~3-8× ~0.1× 99 ~2% Máxima precisión, transcripción de archivos offline

Para un agente de voz de producción en 2026: usa Parakeet TDT v3 si tu audio son comandos cortos en inglés sobre CPU, usa Whisper Large-v3-Turbo (vía Groq o autohospedado) si tus usuarios hablan con acento o vocabulario de dominio, usa Qwen3-ASR si necesitas multilingüe con lenguas mezcladas. La respuesta completa depende de cómo se vea de verdad tu audio — y ahí es donde los números de benchmark dejan de ser útiles.

Los benchmarks dicen Parakeet. Los informes de producción dicen “depende”. Ambos tienen razón. Esto es cómo se ve de verdad esa dependencia.

Las cifras de WER de la tabla de arriba son valores aproximados del conjunto de prueba de inglés limpio de LibriSpeech según benchmarks publicados de NVIDIA y OpenAI. El WER de producción varía bastante con las condiciones del audio, el acento y el vocabulario de dominio.

Los tres modelos y qué intentan hacer

Parakeet TDT v3 es el modelo ASR nativo de streaming de NVIDIA. TDT significa Token-and-Duration Transducer — una arquitectura construida para inferencia en tiempo real más que para transcripción offline. La versión v3 cubre 25 idiomas a 0,6B parámetros. Parakeet v2 es solo inglés al mismo tamaño y es consistentemente más rápido en CPU que v3 porque no carga la sobrecarga multilingüe. Ambos entregan factores de tiempo real muy por debajo de 0,1 en CPU moderna — es decir, un clip de 10 segundos se transcribe en menos de 1 segundo sin GPU.

Whisper Large-v3-Turbo es la versión comprimida de Large-v3 de OpenAI, entrenada para correr a aproximadamente la mitad del coste de cómputo recuperando la mayor parte de la precisión. No es tan rápido como Parakeet en CPU, pero tiene dos cosas que Parakeet no: 99 idiomas con buen rendimiento en todos ellos, y cuatro años de despliegue en producción a través de cientos de apps derivadas, lo que significa que sus modos de fallo están bien documentados. En el hardware de inferencia de Groq, el Whisper Turbo alojado entrega 300 ms de latencia de extremo a extremo por petición — más rápido de lo que la mayoría de configuraciones autohospedadas logran en GPU de consumo.

Qwen3-ASR es la familia de modelos ASR multilingües de Alibaba de 2026, con la variante más pequeña en 0,5B parámetros. Compite con Parakeet en tamaño y con Whisper en amplitud de idiomas. Su capacidad estrella es el soporte de lenguas mezcladas — audio que mezcla hindi e inglés, o español e inglés, en el mismo enunciado. Este es un problema genuinamente difícil para Whisper (cuyos datos de entrenamiento son mayormente monolingües por segmento) y donde el enfoque de entrenamiento de Qwen3-ASR le da ventaja.

Nemotron ASR 3.5 — no en la pregunta original pero apareciendo en los hilos de producción para junio de 2026 — es el reemplazo streaming-first de NVIDIA para la familia Canary. Diseñado para despliegue con NVIDIA NIM, hace benchmark más rápido que Parakeet y maneja 400+ sesiones concurrentes por H100 según los primeros informes de producción. Tiene un artefacto de arranque en frío documentado donde los primeros 1-2 segundos de cada sesión son menos precisos, lo que importa más en un agente de voz que en un pipeline de transcripción por lotes.

Precisión en números. En el conjunto de prueba de inglés limpio de LibriSpeech, Parakeet TDT v2 (solo inglés) logra aproximadamente 2,5-4% WER, Parakeet TDT v3 aproximadamente 3-5% WER (la sobrecarga multilingüe añade un pequeño coste de precisión para el inglés), Whisper Large-v3-Turbo aproximadamente 2-3% WER, y Qwen3-ASR 0,5B aproximadamente 3-5% WER. Whisper Large-v3 (completo, 1,5B parámetros) logra aproximadamente 2% WER — el techo de precisión a un coste de cómputo notable. Estas cifras son de benchmarks publicados de NVIDIA y OpenAI sobre el conjunto de prueba académico estándar. La brecha entre modelos se estrecha bastante en audio de producción con acentos, ruido de fondo, o frases conversacionales cortas.

El problema con las comparaciones de benchmark

Cada vez que alguien publica un benchmark comparando estos modelos, la sección de comentarios produce de forma fiable dos observaciones:

  1. “Parakeet gana en velocidad y WER en el conjunto de prueba de LibriSpeech.”
  2. “Sí, pero mi audio de producción no es LibriSpeech.”

Ambas son ciertas. El conjunto de prueba limpio de LibriSpeech es habla leída de audiolibros — articulada, silenciosa, neutral de acento, frases completas. El audio de un agente de voz es habla conversacional, a menudo de un micrófono de teléfono o portátil, a menudo con ruido de fondo, a menudo de hablantes no nativos, a menudo frases de comando de 1-3 segundos en vez de párrafos de 10-30 segundos.

Estos dos tipos de audio favorecen a modelos distintos.

Para comandos conversacionales cortos (1-3 segundos, “¿Qué tiempo hace?” o “Pon un temporizador de 10 minutos”), la ventaja de arquitectura de Parakeet es sustancial. La ventana de contexto de 30 segundos de Whisper está diseñada en torno a audio de longitud de documento. En clips muy cortos, Whisper paga toda la sobrecarga de contexto por una cantidad diminuta de habla real. La arquitectura de transducer de Parakeet procesa cada token conforme llega — no acumula hasta 30 segundos. El resultado práctico es lo que un desplegador de producción describió como un “salto enorme en WER” al cambiar de Whisper Turbo a Parakeet para frases de comando de 1-2 segundos.

Para habla con acento y vocabulario específico de dominio, la dirección se invierte. El corpus de entrenamiento de Whisper es enormemente mayor y más diverso. Ha visto inglés indio, inglés británico, inglés australiano, inglés con acento alemán, y cientos de otras variantes en enorme cantidad. Parakeet v3 es fuerte en inglés con acento pero más estrecho en datos de entrenamiento. Cuando el vocabulario incluye terminología específica de empresa, nombres de producto, siglas técnicas, y otras palabras de dominio que aparecen rara vez en los datos de entrenamiento, la ventana de contexto mayor y la distribución de entrenamiento más rica de Whisper ganan de forma consistente.

Por eso la misma persona puede decir con verdad “hice benchmark de Parakeet y es mejor” y “en mi agente de producción Whisper es mejor” — están optimizando para distribuciones de audio distintas.

Cómo se ven de verdad los despliegues de producción

Un patrón emerge en los hilos de despliegue de producción:

Whisper Turbo alojado en Groq para concurrencia baja-media. A $0,04 por hora de audio, el endpoint alojado de Groq es difícil de superar para agentes de voz por debajo de unos cientos de sesiones concurrentes. La latencia de ida y vuelta de 300 ms es competitiva con la inferencia GPU autohospedada en hardware de consumo, y la experiencia de desarrollo elimina por completo el problema del aprovisionamiento de GPU. Para un equipo que construye un producto en vez de operar infraestructura de GPU, este es el valor por defecto práctico en 2026.

Parakeet autohospedado para despliegues en el borde y limitados por CPU. Si corres inferencia en dispositivos de borde (NVIDIA Jetson, portátiles de consumo, SoC móviles), Parakeet v2 (solo inglés INT8) a ~600 MB de RAM es la mejor opción actual. Un factor de tiempo real por debajo de 0,1 significa que un comando de voz de 2 segundos se transcribe antes de que el usuario haya terminado de procesar su propio pensamiento. Nada más a este tamaño de modelo lo iguala.

Faster-Whisper (BF16) para GPU autohospedada con precisión de Whisper. Faster-whisper es una reimplementación de Whisper basada en CTranslate2 que corre 4× más rápido que la implementación original en Python en el mismo hardware — el camino de producción que seguía apareciendo para equipos que necesitan calidad de Whisper con latencia autohospedada, no whisper.cpp. La cuantización BF16 en una A100 o H100 llega a latencia por debajo del segundo para clips cortos manteniendo la precisión cerca de la referencia FP16. La cuantización Whisper FP8-dynamic de RedHatAI es un experimento activo para empujar más allá.

Modelos de dominio ajustados para vocabulario especializado. El consejo consistente de los ingenieros que han lanzado agentes de voz de producción: elige cualquiera de los tres modelos base, recoge 500-2000 ejemplos de tu audio de producción real (con tus acentos, terminología y perfil de ruido específicos), ajusta, cuantiza a INT8 con ONNX, y despliega. Las ganancias de ajustar con datos de dominio son mayores que las ganancias de cambiar de modelo base. Los tres modelos manejan bien conversaciones generales de fábrica. Las palabras técnicas, la terminología específica de empresa, y las siglas de dominio son donde ninguno de ellos es fiable sin fine-tuning — la brecha entre un modelo genérico y uno ajustado en vocabulario especializado es bastante mayor que la brecha entre Parakeet y Whisper sobre los mismos datos de dominio.

Las cuentas de la latencia

Para un agente de voz en tiempo real con un pipeline STT → LLM → TTS, el paso de STT necesita aportar bastante menos de 500 ms de latencia percibida para sentirse ágil. Esto es cómo se ven los números realistas:

Parakeet TDT v3 en CPU (portátil moderno, clip de 1-3 segundos): 50-150 ms. Esto es lo bastante rápido como para que el cuello de botella se desplace por completo a tu inferencia de LLM. Si corres un LLM local pequeño y tu TTS es rápido, Parakeet en CPU puede producir un pipeline totalmente local que se siente ágil.

Whisper Turbo vía Groq (clip de 1-3 segundos): 200-350 ms incluyendo la ida y vuelta por red. Lo bastante rápido para la mayoría de agentes de voz. La latencia de red es la variable — si tus usuarios están geográficamente lejos de los centros de datos de Groq, esto puede estirarse.

Whisper Turbo autohospedado (L40S o H100 vía nube): 150-400 ms según si el modelo está caliente, el tamaño de lote, y la longitud del clip. El problema de arranque en frío de la GPU — la latencia de carga del modelo — importa si levantas y bajas instancias de inferencia de forma dinámica.

Qwen3-ASR 0,5B en CPU (clip de 1-3 segundos): 300-800 ms según el hardware. Más lento que Parakeet en CPU, más rápido que Whisper grande, competitivo con Whisper Turbo en hardware decente.

Nemotron ASR 3.5 vía NIM (H100): por debajo de 100 ms a escala, con el artefacto de arranque en frío en los primeros 1-2 segundos de cada sesión. La cifra de 400+ sesiones concurrentes por H100 es lo que lo hace atractivo para despliegues de alto volumen.

La cuestión multilingüe y de acento

La cuestión de cómo manejan estos modelos el inglés no neutral es la más consecuente para los despliegues de producción y la peor servida por los benchmarks publicados.

Inglés con acento indio

El inglés con acento indio es el acento de inglés no americano de mayor volumen en internet y el foco explícito de varios hilos de despliegue de producción. Los informes de producción en 2026 se inclinan de forma consistente hacia Whisper. La combinación de acento, variación de ritmo, y vocabulario mixto técnico/conversacional (identificadores de código, nombres de producto de empresa, cambio de código hinglish) es donde se nota la amplitud de entrenamiento de Whisper. Varios equipos reportan pasar de faster-whisper (por latencia) a Whisper alojado en Groq (por precisión con acento indio) y aceptar la dependencia alojada como el intercambio correcto.

Habla con lenguas mezcladas (hinglish, spanglish)

Qwen3-ASR es específicamente interesante para enunciados que cambian genuinamente de idioma a mitad de frase. Whisper maneja el cambio de código de forma menos fiable porque sus segmentos de entrenamiento son mayormente monolingües. La cobertura de 25 idiomas de Parakeet v3 mejora sobre v2 pero no está diseñada para el cambio dentro del enunciado. Qwen3-ASR fue entrenado con datos de lenguas mezcladas y lo maneja estructuralmente mejor. Para un agente de voz donde los usuarios mezclan de forma natural hindi e inglés en la misma frase, Qwen3-ASR merece un benchmark sobre tu audio real antes de comprometerte con Whisper.

Inglés con acento europeo

Para acentos alemán, francés, español y neerlandés a nivel de vocabulario técnico, el dominio de datos de entrenamiento de Whisper se mantiene. Los tres modelos manejan bien los acentos europeos limpios a nivel de fonema; la divergencia se nota en el vocabulario de dominio — nombres de empresa, identificadores de producto, y siglas técnicas que aparecen rara vez en los datos de entrenamiento de cualquier modelo.

Cuándo usar cada modelo

Usa Parakeet TDT v3 cuando:

  • Tu agente de voz maneja comandos cortos (menos de 3 segundos) de hablantes en inglés
  • Despliegas en hardware CPU o de borde donde el presupuesto de latencia es ajustado
  • Tu audio es relativamente limpio y la variación de acento es limitada
  • Necesitas solo inglés y quieres v2 para máxima velocidad en CPU

Usa Whisper Turbo (vía Groq o autohospedado) cuando:

  • Tus usuarios hablan inglés con acento o necesitas varios idiomas
  • Tu vocabulario incluye términos de dominio, siglas, o nombres propios
  • Quieres un modelo probado con miles de despliegues de producción de modos de fallo conocidos
  • Tu concurrencia es baja o media y el hospedaje gestionado es aceptable

Usa Qwen3-ASR cuando:

  • Tratas con lenguas mezcladas (hinglish, spanglish, etc.)
  • Quieres cobertura multilingüe competitiva a un tamaño de modelo pequeño
  • Estás dispuesto a aceptar un modelo menos probado por la comunidad a cambio de la ventaja multilingüe

Considera Nemotron ASR 3.5 cuando:

  • Corres infraestructura de GPU NVIDIA y quieres despliegue NIM
  • La alta concurrencia (cientos de sesiones por GPU) es un requisito duro
  • Puedes sortear o detectar el artefacto de arranque en frío

La decisión de fine-tuning

Cada guía práctica sobre ASR de producción acaba llegando a la misma conclusión: si la precisión sobre tu audio específico es la restricción, el fine-tuning gana a la selección de modelo. Esto no es una salvedad — es un hecho estructural sobre cómo funcionan estos modelos.

Los modelos base están entrenados para generalizar a través de todos los tipos de audio. Tu audio de producción no es todos los tipos de audio — es tus usuarios, en tu caso de uso, con tu vocabulario. La información en tu audio de producción que distingue tu dominio del caso general no está en el modelo base, porque no podía estar — tu producto no existía cuando se entrenó el modelo.

Recoger 500-2000 ejemplos de tu audio de producción real, etiquetarlos (o usar un modelo existente para pseudo-etiquetado y luego corregir errores), y ajustar durante 1-10 horas de cómputo en una sola A100 está al alcance de cualquier equipo con un presupuesto de ingeniería. Las ganancias de precisión de ajustar sobre 1000 ejemplos de dominio superan de forma consistente a cambiar de un modelo frontera a otro.

La cuantización a INT8 vía ONNX tras el fine-tuning te da eficiencia de despliegue sin una pérdida de precisión sustancial en el dominio objetivo.

Dónde encaja SnailText en este panorama

SnailText es una app de dictado de escritorio, no un producto de infraestructura para agentes de voz, pero trae Whisper y Parakeet TDT en el mismo binario — lo que significa que corremos exactamente esta comparación sobre hardware de consumo real a escala.

La lección práctica de eso: para dictado de escritorio (frases de 5-30 segundos, oficina en casa silenciosa, un solo idioma, predominantemente inglés), Parakeet TDT v3 y Whisper Medium aterrizan en precisión similar para la mayoría de usuarios. Parakeet es más rápido en CPU. Los modelos Whisper grandes mejoran la precisión para habla con acento de forma notable. El modelo correcto depende del hardware que tengas delante, no de un benchmark corrido en el servidor de otro.

Puedes probar ambos en local en Mac o Windows con el plan gratis — Whisper Tiny y Base van incluidos, Parakeet y los modelos Whisper más grandes están en Pro. La diferencia entre modelos es algo que sientes de inmediato sobre tu propia voz, que es el único benchmark que en última instancia importa para tus usuarios concretos.

La cuestión del agente de voz de producción es más difícil porque la diversidad de audio es más amplia y las restricciones de latencia más estrictas. Pero la lección de fondo es la misma: el modelo que gana sobre tu audio es el que hay que lanzar, y eso lo averiguas probando sobre tu audio, no leyendo un benchmark.

SnailText es dictado por voz offline para Mac y Windows: local, privado, gratis para empezar.

Descargar para Mac

Preguntas comunes

¿Qué modelo ASR es mejor para agentes de voz en tiempo real en 2026?

Parakeet TDT v3 gana en latencia para agentes de voz en inglés — un factor de tiempo real por debajo de 0,1× en CPU significa que tu pipeline espera milisegundos, no segundos. Pero para agentes que tratan con hablantes con acento, vocabulario técnico de dominio, o varios idiomas, Whisper Large-v3-Turbo vía Groq es difícil de superar: 300 ms de latencia de API con calidad de nivel Whisper y sin infraestructura de GPU que gestionar. Para inglés con acento indio en concreto, el consenso de producción en 2026 se inclina hacia Whisper por precisión y Groq por la latencia alojada.

¿Parakeet TDT v3 es de verdad mejor que Whisper en producción?

En benchmarks con inglés limpio y neutral de acento y enunciados cortos de 1-2 segundos, sí. En producción con habla con acento, vocabulario técnico (nombres de empresa, siglas, identificadores de código), o frases más largas que unos segundos, Whisper Large-v3-Turbo tiende a ganar en calidad. La brecha de benchmark entre ellos se estrecha bastante cuando las condiciones del audio se degradan. La ventaja real de Parakeet es la latencia en CPU: unas 10 veces más rápido que Whisper Turbo en CPU para una frase corta. Si autohospedas en CPU o necesitas despliegue en el borde, la ventaja de latencia de Parakeet es sustancial.

¿Qué tal es Qwen3-ASR comparado con Whisper?

Qwen3-ASR es competitivo con Whisper Turbo en audio limpio y genuinamente mejor en ciertas tareas multilingües — en particular lenguas mezcladas como el hinglish (mezcla hindi-inglés) donde los datos de entrenamiento de Whisper se adelgazan. El modelo de 0,5B ronda los 300 ms en CPU para un clip de 5 segundos. La limitación principal es que es más nuevo y tiene menos pruebas de la comunidad que Whisper. Para un despliegue de producción a mediados de 2026, Whisper es la opción más segura salvo que necesites específicamente soporte multilingüe con lenguas mezcladas.

¿Qué es Nemotron ASR 3.5 y debería usarlo?

Nemotron ASR 3.5 es el modelo ASR streaming-first de NVIDIA lanzado a mediados de 2026. Está diseñado para despliegue con NVIDIA NIM y puede manejar 400+ sesiones concurrentes por H100. Los primeros informes de producción muestran que iguala o supera a Parakeet en velocidad con mejor comportamiento de streaming, pero tiene un problema de 'arranque en frío' donde los primeros 1-2 segundos de cada sesión son menos precisos. Para despliegues de GPU de alta concurrencia es prometedor; para despliegues CPU en el borde o configuraciones de baja concurrencia, Parakeet v2/v3 está más probado.

¿Debería ajustar el ASR con mis propios datos?

Sí, si tu caso de uso implica vocabulario especializado — términos médicos, nombres de empresa, identificadores de producto, siglas técnicas. Los tres modelos (Parakeet, Whisper, Qwen3-ASR) admiten fine-tuning vía conversión a ONNX INT8 para el despliegue. En la práctica, ajustar Whisper con datos específicos de dominio supera de forma consistente a un modelo genérico más grande en el dominio objetivo. El coste es el dataset y el cómputo de entrenamiento. Si construyes un agente de voz de producción para un vertical concreto, presupuestar 500-2000 grabaciones de ejemplo y un ciclo de fine-tuning suele valer la pena.

Groq vs Whisper autohospedado — ¿cuál es más barato?

El Whisper Turbo alojado de Groq corre a unos $0,04 por hora de audio (a mediados de 2026). Whisper autohospedado en una A100 a tarifas de nube cuesta $2-4/hora de tiempo de GPU; a un factor de 400× tiempo real puedes procesar unas 400 horas de audio por hora de GPU, dejándolo en ~$0,005-0,01 por hora de audio a escala. Groq es más barato a bajo volumen (menos de unos cientos de horas al mes); el autohospedaje gana a escala. El punto de equilibrio depende del precio y la utilización de tu GPU. Para un agente de voz con <100 sesiones concurrentes, la experiencia de desarrollo de Groq suele ganar — 300 ms de latencia, sin infraestructura, sin aprovisionamiento de GPU.

¿Puede Parakeet TDT v3 correr en hardware de borde?

Sí. Parakeet v2 cuantizado a INT8 (solo inglés) cabe en aproximadamente 600 MB de RAM y corre en tiempo real en una CPU ARM moderna. Eso lo hace viable para inferencia en el borde en dispositivos como NVIDIA Jetson, chips Apple de la serie M, o SoC móviles bien equipados. Parakeet v3 añade 24 idiomas más a un tamaño de modelo similar. Para inferencia pura en CPU de borde con audio en inglés, Parakeet v2 es ahora mismo el mejor modelo abierto listo para producción.

¿Cuáles son los números de WER de Parakeet TDT v3 vs Whisper Large-v3-Turbo?

En el conjunto de prueba de inglés limpio de LibriSpeech — el benchmark académico estándar — Parakeet TDT v3 logra aproximadamente 3-5% WER, Parakeet v2 (solo inglés) aproximadamente 2,5-4% WER, y Whisper Large-v3-Turbo aproximadamente 2-3% WER. Whisper Large-v3 (completo, 1,5B parámetros) logra aproximadamente 2% WER. Estos son números de audio limpio. En producción con hablantes con acento, ruido de fondo, o frases cortas, la brecha entre Parakeet y Whisper se estrecha y a veces se invierte según el tipo de audio. No trates el benchmark de LibriSpeech como el WER esperado en tu audio real.

¿Cuál es la diferencia entre Parakeet TDT v2 y v3?

Parakeet v2 es solo inglés a 0,6B parámetros — logra un WER ligeramente menor en audio en inglés que v3 porque no carga la sobrecarga multilingüe. Parakeet v3 cubre 25 idiomas al mismo tamaño de modelo. Para agentes de voz puramente en inglés, v2 es la opción más rápida y precisa. Para despliegues multilingües o agentes que manejan español, francés, alemán, u otros idiomas soportados por Parakeet, hace falta v3. Ambos corren a RTF por debajo de 0,1 en CPU moderna.

Parakeet TDT v3 vs Nemotron ASR 3.5 — ¿cuál debería usar?

Nemotron ASR 3.5 está diseñado para despliegues NVIDIA NIM de alta concurrencia (400+ sesiones concurrentes por H100) y logra latencia por debajo de 100 ms a escala. Parakeet TDT v3 es la mejor opción para despliegues limitados por CPU o en el borde, configuraciones de menor concurrencia, o equipos que quieren un modelo más ampliamente probado sin infraestructura de GPU. La principal salvedad de producción de Nemotron es el artefacto de arranque en frío — los primeros 1-2 segundos de cada sesión son menos precisos — que Parakeet no tiene. Si corres infraestructura de GPU NVIDIA a alta concurrencia, Nemotron merece un benchmark. Si no, Parakeet v2 o v3 es el punto de partida más simple.

¿Quieres Whisper y Parakeet en una app de escritorio sin la infraestructura?

SnailText trae ambos motores en local en Mac y Windows. Tú eliges el modelo — de Tiny a Large-v3, o Parakeet TDT v3. Acelerado por GPU con Vulkan (Windows) o Metal (Mac). Sin clave de API, sin llamada a la nube durante el dictado.