En el corazón de los centros de datos modernos, las GPU trabajan sin descanso para alimentar modelos de inteligencia artificial cada vez más complejos. Sin embargo, estas unidades de procesamiento gráfico no están rindiendo a su máximo potencial, no por falta de potencia, sino por limitaciones en la memoria y la conectividad de red. Este problema, conocido como el «muro de red«, recuerda al viejo muro de memoria que afectó durante años a las CPU: la velocidad de procesamiento crece, pero la transferencia de datos no consigue seguirle el ritmo.
Hoy en día, los centros de datos se ven obligados a elegir entre cables de cobre o de fibra óptica para conectar las GPU. El cobre es eficiente y confiable, pero solo funciona en distancias cortas, menores a 2 metros. Por otro lado, la fibra óptica puede alcanzar decenas de metros, pero consume mucha energía y tiene una tasa de fallos hasta cien veces superior. Esta elección, forzada y limitada, afecta directamente la escalabilidad y eficiencia de las infraestructuras de IA. Continúa leyendo «MOSAIC: la nueva apuesta de Microsoft para superar los cuellos de botella en la infraestructura de IA»
