Hugging Face lanza paquetes Swift para reconocimiento de voz y toma de decisiones en el dispositivo

Hugging Face ha lanzado AnySpeechRecognizer y AnyDecisionModel, dos nuevos paquetes Swift que permiten a los desarrolladores ejecutar modelos de reconocimiento de voz y toma de decisiones de código abierto directamente en dispositivos Apple. El cambio más significativo aquí es la separación del motor de inferencia de la API: los desarrolladores ahora pueden reemplazar los modelos propietarios de Apple por alternativas abiertas como Parakeet de NVIDIA o Qwen3-ASR de Alibaba sin reescribir la lógica de su aplicación.

Qué ha ocurrido

Según el blog de Hugging Face, AnySpeechRecognizer replica la API SpeechAnalyzer de Apple introducida en macOS 26 e iOS 26. Al mantener la interfaz idéntica, los desarrolladores pueden cambiar el motor subyacente simplemente alterando cómo se instancia el transcriptor. El paquete admite tres motores principales: Parakeet v3 (el modelo políglota de 0.6B de NVIDIA), Parakeet Ultra (la variante de post-entrenamiento de Moondream) y Qwen3-ASR (los modelos de 0.6B y 1.7B de Alibaba). Los tres se ejecutan en un runtime de Core ML personalizado. Los modelos Parakeet admiten entrada en vivo, cronometraje de palabras y puntuaciones de confianza, mientras que Qwen3-ASR es más adecuado para la transcripción de archivos debido a su procesamiento basado en GPU más lento.

El paquete también introduce SpeakerDiarizer, un módulo que ejecuta Streaming Sortformer de NVIDIA en Core ML para atribuir el habla a hasta cuatro hablantes simultáneamente, una capacidad que el marco de Apple carece actualmente. Hugging Face informa que en un Mac Studio M4 Max, Parakeet puede transcribir una hora de audio en 20 a 40 segundos desde un archivo, utilizando aproximadamente 100 MB de memoria. Sin embargo, el blog señala que las tasas de error de palabra superaron el 23% en las grabaciones de reuniones AMI, lo que destaca que el habla superpuesta sigue siendo un desafío para todos los motores probados.

AnyDecisionModel aborda una necesidad diferente: clasificación de cero ejemplos. En lugar de enviar un prompt a un modelo de lenguaje grande y analizar la salida de texto, este paquete utiliza modelos de decisión para devolver probabilidades estructuradas. Por ejemplo, puede determinar si un mensaje es urgente o qué equipo debe manejar un ticket, devolviendo un tipo Choice con probabilidades para cada opción en lugar de una sola cadena de texto. El backend MLX construye prompts con etiquetas de un solo token y lee las probabilidades en una sola pasada hacia adelante.

Por qué es importante para los constructores de pequeñas empresas

Para los equipos pequeños, el costo y la latencia de enviar audio a APIs en la nube son cuellos de botella significativos. AnySpeechRecognizer resuelve esto al habilitar una transcripción de alta calidad, privada y en el dispositivo. Si está construyendo una herramienta de soporte al cliente o una aplicación de servicio en campo, ahora puede procesar notas de voz localmente, eliminando las tarifas de API por minuto y las preocupaciones sobre la privacidad de los datos. La capacidad de intercambiar motores es crucial: si Parakeet tiene dificultades con un acento específico, puede cambiar a Qwen3-ASR, que admite 30 idiomas y 22 dialectos del chino, sin refactorizar su base de código. Esta modularidad refleja las mejores prácticas de los marcos de agentes de código abierto, dándole el control sobre la capa de inferencia mientras mantiene interfaces Swift seguras en tipos.

Qué hacer esta semana

1. Clone el repositorio de AnySpeechRecognizer y ejecute la herramienta de línea de comandos hear en sus propios archivos de audio para medir las tasas de error de palabras en comparación con su caso de uso específico.
2. Si actualmente utiliza SpeechAnalyzer de Apple, cree una rama de prueba donde cambie la importación a AnySpeechRecognizer e instancie un transcriptor Parakeet para verificar la compatibilidad con su manejo de secuencias asíncronas existentes.
3. Experimente con AnyDecisionModel implementando un clasificador simple para una tarea repetitiva en su empresa, como la categorización de tickets de soporte entrantes, para evaluar la utilidad de las salidas basadas en probabilidades frente al análisis de texto de LLM.

Fuentes

• Introducing AnySpeechRecognizer and AnyDecisionModel: Open Models for Speech and Decisions on Apple Platforms — Hugging Face Blog