La inteligencia artificial local está dejando de ser sinónimo de montar un servidor enorme, caro y bastante poco discreto en una sala dedicada. Geekom quiere demostrarlo conectando cuatro de sus mini PC A9 Mega para crear un pequeño clúster de IA capaz de ejecutar DeepSeek V4 Flash sin depender de servicios de inteligencia artificial en la nube.
La propuesta resulta interesante no tanto por ejecutar un modelo de IA en local —algo que ya hemos visto muchas veces— sino por la forma de repartir el trabajo entre varios ordenadores compactos. En lugar de recurrir a infraestructura de centro de datos, Geekom conecta cuatro equipos mediante USB4 y distribuye el modelo entre ellos.
Es, salvando las distancias, la versión informática del clásico «entre todos podemos con esto».
Cuatro A9 Mega para repartir el trabajo
Cada Geekom A9 Mega incorpora un procesador AMD Ryzen AI Max+ 395, con 16 núcleos de CPU Zen 5, gráficos Radeon 8060S y memoria unificada. La compañía ha utilizado cuatro unidades para construir una plataforma de inferencia distribuida.
El software también tiene bastante protagonismo. El sistema funciona con Ubuntu y utiliza ROCm y DwarfStar para distribuir una versión optimizada de DeepSeek V4 Flash entre los cuatro ordenadores.
Las aplicaciones pueden comunicarse con el clúster mediante una API compatible con OpenAI, un detalle especialmente relevante para empresas que ya tienen herramientas construidas alrededor de este tipo de interfaces. La idea es poder cambiar la infraestructura que ejecuta el modelo sin tener que replantear necesariamente toda la aplicación que hay encima.
La conexión mediante USB4 evita, según Geekom, recurrir a un conmutador de red de alta velocidad o a infraestructura propietaria de servidores. Esto no convierte cuatro mini PC en sustitutos universales de un centro de datos, pero sí plantea una alternativa curiosa para determinados escenarios de IA privada.
La privacidad es uno de los argumentos principales
¿Para qué querría una empresa ejecutar un modelo de este tipo dentro de sus propias instalaciones? La respuesta más evidente está en los datos.
Cuando usamos servicios de IA alojados en la nube, las consultas y la información necesaria para procesarlas tienen que abandonar, de una forma u otra, nuestra infraestructura. En determinados entornos eso puede convertirse en un problema, especialmente cuando hablamos de contratos, código fuente, credenciales, documentación interna o información confidencial.
Con este clúster de IA local, esos datos pueden permanecer dentro de la infraestructura de la organización.
Geekom plantea casos como asistentes privados capaces de consultar políticas internas, manuales, contratos e informes. También podría utilizarse para revisión de documentos, análisis de repositorios de código, sistemas RAG con información almacenada localmente, investigación utilizando varias fuentes o automatización mediante agentes.
Es precisamente en este terreno donde desde WWWhatsnew.com llevamos tiempo viendo una tendencia bastante clara: la conversación sobre IA ya no gira únicamente alrededor de qué modelo responde mejor, sino también alrededor de dónde se ejecuta el modelo y quién controla los datos.
Contextos de hasta 250.000 tokens
Geekom también apunta al uso del sistema con agentes de IA. En plataformas de este tipo, el modelo no recibe únicamente una pregunta: puede necesitar consultar herramientas, instrucciones, memoria, registros, código y documentos antes de decidir qué hacer.
Según las pruebas técnicas comunicadas por la compañía, la configuración ha trabajado con contextos de hasta 250.000 tokens. Esto permite abordar documentos extensos, bases de código de cierto tamaño y procesos compuestos por numerosos pasos.
En pruebas con una única solicitud concurrente, el clúster alcanzó aproximadamente 14,61 tokens por segundo, con un tiempo P95 hasta el primer token de unos 0,42 segundos en las pruebas de 32 y 128 tokens.
Son cifras proporcionadas por Geekom y, por tanto, conviene interpretarlas como resultados de su propia configuración y metodología, no como una comparación independiente frente a servidores dedicados, GPUs profesionales o servicios de IA en la nube.
Un clúster que puede crecer poco a poco
Otro aspecto llamativo es su planteamiento modular. Una organización podría empezar utilizando uno o dos mini PC para IA y ampliar posteriormente la instalación hasta cuatro equipos.
Cada A9 Mega puede seguir funcionando de forma independiente o incorporarse al procesamiento distribuido. Pensemos, por ejemplo, en un pequeño laboratorio que inicialmente necesita ejecutar modelos para analizar documentación interna. Si meses después aumenta el volumen de trabajo, podría sumar más nodos en lugar de sustituir completamente el equipo original.
Ese enfoque coloca la propuesta en un espacio peculiar entre las estaciones de trabajo de IA y los servidores tradicionales. No pretende demostrar que cualquier infraestructura empresarial pueda reducirse a cuatro cajas sobre una mesa, pero sí que determinadas cargas de IA privada y local pueden abordarse con hardware mucho más compacto de lo que asociábamos hasta ahora con este tipo de tareas.
Y quizá ahí esté lo más interesante del experimento: no es solamente hacer los mini PC más potentes, sino empezar a tratarlos como piezas que pueden colaborar para resolver problemas que antes reservábamos a máquinas bastante más grandes.
Tenéis más información en este enlace