El Mac Studio M3 Ultra demuestra su capacidad para ejecutar el modelo de IA DeepSeek R1 completamente en memoria
El nuevo Mac Studio M3 Ultra sorprende al ejecutar el modelo de inteligencia artificial DeepSeek R1 en memoria, superando a otras estaciones de trabajo.
El Mac Studio de Apple, impulsado por el chip M3 Ultra, ha demostrado capacidades impresionantes al ejecutar la herramienta de inteligencia artificial DeepSeek R1, que cuenta con 671 mil millones de parámetros, completamente en memoria. Este logro supera lo que otros ordenadores personales pueden ofrecer. En una prueba llevada a cabo por el revisor de YouTube, Dave2D, se observó que, a pesar de utilizar una versión cuantizada del modelo a 4 bits, se mantuvo el conteo total de parámetros y la ejecución fue fluida.
Normalmente, el modelo DeepSeek R1, que requiere una considerable cantidad de 404 GB de almacenamiento y memoria de alta velocidad, se ejecuta en configuraciones con múltiples GPUs que distribuyen la carga de procesamiento entre varias tarjetas gráficas de alto rendimiento. Sin embargo, el sistema de memoria unificada del M3 Ultra permite almacenar y procesar el modelo de IA utilizando sus 512 GB de memoria unificada, algo que no se había conseguido en ningún otro ordenador personal hasta ahora.
A pesar de que macOS establece un límite predeterminado de VRAM, Dave Lee logró aumentar manualmente este límite a través de la Terminal, permitiendo asignar hasta 448 GB para el procesamiento de IA. Esto eliminó los cuellos de botella de memoria y redujo la necesidad de múltiples componentes para optimizar el rendimiento de la IA en un solo sistema.
Uno de los aspectos más destacados de esta prueba fue la eficiencia energética del M3 Ultra, ya que consumió menos de 200W al ejecutar DeepSeek R1, desafiando así el estándar de la industria que comúnmente utiliza configuraciones de GPU de alto consumo. A diferencia de las configuraciones convencionales donde la VRAM está separada de la memoria del sistema, la arquitectura de memoria unificada de Apple maximiza el ancho de banda mientras minimiza el uso de energía.
El Mac Studio, lanzado con el chip M3 Ultra, presenta un CPU de hasta 32 núcleos y un GPU de 80 núcleos, lo que lo posiciona como una de las mejores estaciones de trabajo para modelos de lenguaje y para la edición de video. Con estas capacidades, Apple refuerza su liderazgo en la creación de equipos potentes y eficientes para tareas complejas.