Alif Semiconductor, proveedor líder mundial de microcontroladores (MCU) y procesadores de fusión de Inteligencia Artificial y Aprendizaje Automático (IA/AA) seguros, conectados y de bajo consumo, anunció hoy que los desarrolladores ahora pueden usar ExecuTorch Runtime, una extensión de cuantización del popular marco de trabajo PyTorch ML, para aplicaciones de IA diseñadas para ejecutarse en su serie Ensemble E4/E6/E8 de MCU y procesadores de fusión.
La extensión ExecuTorch permite a los desarrolladores de modelos de IA para plataformas con recursos limitados, como microcontroladores, usar el framework PyTorch para crear modelos ligeros que admiten inferencia de alta precisión y baja latencia.
Dado que los productos Ensemble E4, E6 y E8 incluyen la NPU Arm® Ethos™-U85, compatible con redes de aprendizaje automático basadas en transformadores, los desarrolladores ahora pueden usar PyTorch y el entorno de ejecución ExecuTorch para crear aplicaciones de IA generativa que se ejecuten localmente en dispositivos portátiles alimentados por batería, como gafas inteligentes, interfaces humano-computadora, aplicaciones para el sector salud y diagnóstico, robótica, transporte, juguetes y educación, hogares inteligentes y equipamiento para ciudades inteligentes.
En la Conferencia PyTorch (Moscone West, San Francisco, CA, 22-23 de octubre), Arm demostró ejemplos de aplicaciones de IA generativa compiladas con ExecuTorch y ejecutadas en el procesador de fusión Ensemble E8 de Alif, incluyendo:
- Un pequeño modelo de lenguaje que se ejecuta en el Ensemble E8, capaz de generar historias adecuadas para niños en respuesta a estímulos visuales, y ampliable a estímulos verbales.
- Modelos de transcripción de voz a texto en tiempo real integrados en el dispositivo, ideales para su integración en wearables como gafas inteligentes. La demostración realiza la transcripción de voz en tiempo real para permitir la generación de subtítulos en directo.
Reza Kazerounian, presidente de Alif Semiconductor, afirmó: «La continua innovación de Alif nos mantiene a la vanguardia de la IA en el borde, que ahora se extiende a la era de la IA generativa. Con la compatibilidad nativa con ExecuTorch Runtime en nuestros microcontroladores Ensemble, estamos ampliando las posibilidades de la IA a nivel de MCU. Para los fabricantes de dispositivos integrados que desarrollan productos inteligentes de última generación, Alif sigue siendo el líder de confianza en la implementación de la IA en el borde».
Paul Williamson, vicepresidente sénior y director general de la división de IoT de Arm, afirmó: «La IA generativa en el edge está impulsando una nueva generación de dispositivos inteligentes alimentados por batería, capaces de comprender y responder en tiempo real. Gracias al framework ExecuTorch, los desarrolladores pueden implementar de forma eficiente modelos PyTorch en los microcontroladores Ensemble de Alif para realizar inferencias de bajo consumo en el propio dispositivo. Esta colaboración demuestra cómo un ecosistema unificado puede escalar la inteligencia en el edge, acelerando la innovación en IA aplicada al mundo real».
La placa de desarrollo Alif DK-E8 utilizada en las demostraciones de la Conferencia PyTorch, que admite el desarrollo en toda la serie E4/E6/E8, ya está disponible para su compra.
Acerca de Alif Semiconductor:
Alif Semiconductor es el proveedor líder del sector en microcontroladores de 32 bits de última generación con IA/ML segura.
Desde 2019, la creciente oferta de microcontroladores y procesadores de fusión de Alif ha revolucionado la forma en que los desarrolladores crean aplicaciones integradas con IA, de gran alcance, escalables y conectadas, con una eficiencia energética excepcional.
Alif Semiconductor es la única opción para microcontroladores de bajo consumo capaces de gestionar cargas de trabajo intensivas de IA y ML en dispositivos IoT alimentados por batería.
Internacionalista. Periodista con interés en Asia.
