• 2 min de lectura
Siete mini PC Bosgame ejecutan DeepSeek-V3.1 localmente
Bosgame conectó siete mini PC M5 AI en un clúster USB4 para ejecutar DeepSeek-V3.1 con 671.000 millones de parámetros en una configuración del tamaño de un escritorio.
Imagen: ITzine
Bosgame ha mostrado un clúster de siete mini PC M5 AI configuradas para ejecutar DeepSeek-V3.1 de forma local, un modelo con 671.000 millones de parámetros. Una sola unidad no puede manejar esa carga de trabajo por sí misma, por lo que el enfoque de la empresa es escalar vinculando nodos mediante una conexión USB4 directa.
El sistema se basa en el Ryzen AI Max+ 395 de AMD, y la configuración tope de gama del M5 AI incluye 128 GB de RAM. Si juntas siete de esas máquinas, el clúster alcanza 896 GB de memoria unificada. Según Bosgame, hasta 672 GB de esa memoria pueden asignarse a tareas de GPU.
La propuesta es simple: añadir capacidad de cómputo sin pasar a un rack de servidores completo y el volumen que ello conlleva. Para un laboratorio doméstico o un equipo pequeño, eso hace que la configuración sea más parecida a un sistema de clase de escritorio en precio y consumo energético que a los servidores de IA tradicionales, que suelen usarse para modelos de este tamaño.
Recomendado
Nuevo solucionador aborda problemas de optimización con 10,000 variables
Bosgame presentó el M5 AI el año pasado. En aquel momento era un mini PC bastante estándar para su categoría, aunque basado en una plataforma AMD más reciente con más memoria. Ahora la empresa no presenta una sola caja, sino un grupo de máquinas idénticas que operan como un único bloque de cómputo.
Esto encaja con un cambio más amplio en las estaciones de trabajo compactas. ASUS, Minisforum y GMKtec también venden mini PC basadas en potentes chips móviles, pero por lo general se centran en cargas de trabajo locales con modelos más pequeños. Bosgame apunta a otra cosa: un clúster de varias mini PC que cabe en un escritorio.
En su lanzamiento, la configuración tope del M5 AI costaba alrededor de 1.700 dólares. Bosgame ahora lista un PC a 2.800 dólares. Eso sigue siendo modesto en comparación con el hardware de servidor para modelos grandes, pero multiplicado por siete nodos la cuenta sube rápido — y eso sin contar los periféricos y el almacenamiento.
Si la idea del clúster modular funciona más allá de una demostración montada dependerá de lo fácilmente que otros puedan reproducirla en uso real.
Computing Editor
Tomas lives in the terminal. He covers chips, laptops, and operating systems with a focus on performance and efficiency. He reads kernel changelogs the way other people read fiction, and he's always on the hunt for the perfect mechanical keyboard switch. If it processes data, Tomas has an opinion on it.
vía ITzine
