Revista Informática

DirectML amplía soporte NPU a Copilot+ y WebNN

Publicado el 30 agosto 2024 por Lauratuero @incubaweb

La inteligencia artificial (IA) está transformando la manera en que interactuamos con la tecnología, permitiendo nuevas y mejores experiencias en una gran variedad de escenarios. DirectML, una plataforma de desarrollo, ofrece a los programadores la capacidad de traer sus innovaciones en IA a Windows y utilizar la aceleración de hardware local para escalar a través de una amplia gama de dispositivos con Windows. Hoy, nos complace compartir cómo DirectML continúa expandiendo el soporte de la plataforma para unidades de procesamiento neuronal (NPU) en PCs Copilot+ y WebNN.

Nos entusiasma anunciar que DirectML ahora es compatible con PCs Copilot+, que funcionan con la plataforma de computación Snapdragon® X Elite de Qualcomm®. Estas PCs Copilot+ ofrecen un rendimiento y eficiencia energética excepcionales, permitiendo experiencias increíbles de IA en Windows. DirectML, un componente fundamental del Windows Copilot Runtime, ahora permite a los desarrolladores orientarse a estas máquinas para escalar la IA en Windows.

Upendra Kulkarni, Vicepresidente de Gestión de Productos de Software de Computación en Qualcomm, comparte la emoción de Microsoft: «Con Snapdragon X Elite, introdujimos una NPU líder en la industria con 45 TOPS de rendimiento en IA con una eficiencia energética increíble. DirectML es una interfaz de programación de ML amigable para los desarrolladores que utiliza una estructura de API familiar de DirectX. Apoyando DirectML en nuestra NPU, los desarrolladores ahora pueden acceder fácilmente a su capacidad fenomenal y transferir sus modelos de GPU a NPU con un esfuerzo mínimo. Colaboramos extensamente con Microsoft para optimizar DirectML para NPU y maximizar el rendimiento del hardware. Estamos emocionados de co-anunciar este programa de vista previa para desarrolladores.»

Para comenzar con DirectML en PCs Copilot+, sigue estos pasos. Primero, asegúrate de tener las versiones correctas de DirectML, ONNX Runtime (ORT), Windows y el controlador mínimo de Qualcomm® Hexagon NPU. Luego, crea una cuenta de desarrollador en Qualcomm y descarga el controlador más reciente. Con el paquete de controlador instalado y las versiones mínimas de DirectML, ORT y Windows habilitados, puedes probar un modelo de super-resolución ESRGAN para construir una aplicación en C++ que funcione en las nuevas PCs Copilot+.

DirectML está en rápida expansión y estamos simplificando cómo los desarrolladores pueden utilizar los diversos aceleradores locales, variaciones de hardware y marcos en Windows. Sin embargo, hay algunas limitaciones actuales. Los desarrolladores en C++ deben depender del paquete redistribuible DirectML 1.15.2 dentro de sus aplicaciones y la selección de NPU a través de la API de Python para ONNX Runtime aún no está disponible. Se garantiza que ciertos modelos trabajen en la NPU de Qualcomm® Hexagon y se recomienda a los desarrolladores usar las versiones exactas de ONNX mencionadas.

Además, DirectML desbloquea NPUs para aprendizaje automático basado en la web con el nuevo WebNN NPU Developer Preview lanzado en Build, que también permite a los desarrolladores web utilizar la potencia de las NPUs en dispositivos Windows. WebNN, un nuevo estándar web emergente, define cómo ejecutar modelos de aprendizaje automático en el navegador y ofrece nuevas posibilidades para traer innovaciones en IA a la web. Integra APIs de aceleración de hardware como DirectML, permitiendo a los sitios web aprovechar el GPU o NPU en la PC del usuario.

Esta expansión de DirectML a través de NPUs con WebNN ha sido posible gracias a la colaboración cercana con partners de hardware como Intel, que ofrece soporte para procesadores Intel® Core™ Ultra con Intel® AI Boost. Se espera que esta integración brinde a los desarrolladores web las herramientas necesarias para crear y ejecutar características innovadoras de aprendizaje automático en aplicaciones web, beneficiando a los usuarios con aplicaciones web más rápidas, inteligentes y atractivas.

Para comenzar con la vista previa para desarrolladores de WebNN, se necesitan los últimos controladores de NPU y una versión de Windows 11 compatible, junto con las versiones específicas del navegador Microsoft Edge habilitadas para WebNN. Los desarrolladores pueden ejecutar modelos de ONNX en el navegador con aceleración de hardware y cambios mínimos en el código. Instrucciones detalladas sobre su uso y enlaces a modelos específicos están disponibles en el sitio web de WebNN Developer Preview.

DirectML sigue comprometido con la expansión de soporte en PCs Copilot+ y marcos como WebNN y ONNX Runtime. Invitamos a los desarrolladores a proporcionar feedback y reportar problemas a través del repositorio de GitHub de DirectML. Esto es solo el comienzo de nuestra misión para habilitar la IA en la web. Estate atento a futuras actualizaciones y nuevas capacidades en esta emocionante área.


Volver a la Portada de Logo Paperblog