Microsoft lanza modelos de inteligencia artificial DeepSeek R1 7B y 14B para PCs Copilot+
Microsoft presenta los modelos DeepSeek R1 7B y 14B, optimizando la experiencia de inteligencia artificial en los PCs Copilot+ y abriendo nuevas oportunidades para desarrolladores.
En enero, Microsoft anunció su plan para llevar versiones optimizadas del modelo DeepSeek-R1 directamente a los PCs Copilot+ equipados con procesadores Qualcomm Snapdragon X. En febrero, se hizo disponible por primera vez el modelo DeepSeek-R1-Distill-Qwen-1.5B en AIToolkit para VS Code. Hoy, Microsoft ha anunciado la disponibilidad de los modelos DeepSeek R1 7B y 14B para PCs Copilot+ a través de Azure AI Foundry. Esta capacidad de ejecutar modelos de 7B y 14B localmente en los PCs Copilot+ permitirá a los desarrolladores crear nuevas aplicaciones impulsadas por inteligencia artificial que antes no eran posibles.
Dado que los modelos están optimizados para funcionar en NPUs, los usuarios pueden esperar un poder computacional sostenido de IA con un menor impacto en la vida de la batería de sus PCs y en el rendimiento térmico. Además, se liberará capacidad en la CPU y GPU para realizar otras tareas. Microsoft destacó que utilizó Aqua, una herramienta interna de cuantización automática, para cuantizar todas las variantes del modelo DeepSeek a pesos int4, mejorando así la eficiencia del modelo.
Lamentablemente, la velocidad de token del modelo 14B es baja, reportando solo 8 tok/sec, mientras que el modelo de 1.5B alcanza cerca de 40 tok/sec. Microsoft mencionó que está trabajando en optimizaciones adicionales para mejorar la velocidad. A medida que Microsoft continúa optimizando el rendimiento, se espera que el impacto de estos modelos en los PCs Copilot+ crezca significativamente.
Los desarrolladores interesados pueden descargar y ejecutar las variantes de modelos de 1.5B, 7B y 14B en PCs Copilot+ a través de la extensión AI Toolkit en VS Code. El modelo DeepSeek está optimizado en formato ONNX QDQ y se descarga directamente desde Azure AI Foundry. Además, estos modelos también estarán disponibles en el futuro para PCs Copilot+ con procesadores Intel Core Ultra 200V y AMD Ryzen.
Este movimiento de Microsoft representa un impulso hacia capacidades de IA más poderosas en dispositivos, abriendo nuevas posibilidades para aplicaciones impulsadas por inteligencia artificial.