Cómo ejecutar Nemotron 3.5 Transcribe en local: guía de GPU, vLLM y costes

NVIDIA publicó Nemotron 3.5 Transcribe, un modelo de transcripción de pesos abiertos que puede ejecutarse en una sola GPU para procesar grabaciones de una hora en 40 idiomas. El modelo lidera la Hugging Face Open ASR Leaderboard y se distribuye bajo la licencia OpenMDW-1.1, que permite uso comercial. Su tamaño total es de 34B parámetros, con unos 4.3B activos por token, y NVIDIA liberó pesos BF16, FP8 y NVFP4 el 28 de octubre de 2026. Una guía explica el hardware compatible, desde H100 y A100 hasta RTX 5090, así como las vías de ejecución con vLLM, SGLang-Omni y Transformers. Como alternativa, la ejecución local evita el pago por minuto de las APIs alojadas y mantiene el audio dentro de la propia red del usuario.