Durante estos años, optimizar respuestas de un modelo de lenguaje se ha convertido en una especie de cocina experimental: cambias el tono, ajustas instrucciones, añades ejemplos, vuelves a probar. En ese contexto, resulta casi cómico que una técnica tan literal como duplicar la petición —es decir, escribir el mismo texto dos veces seguidas— pueda mejorar… Continúa leyendo »
Centros de datos: prodigios de ingeniería que nadie quiere al lado
Hay edificios que no se construyen para ser visitados, sino para que el resto del mundo funcione. Los centros de datos de hiperescala son así: naves gigantescas repletas de GPU y otros chips especializados, alineados como estanterías de un supermercado que, en lugar de latas, guardan potencia de cálculo. Dentro, miles de procesadores trabajan en paralelo para alimentar modelos de inteligencia artificial que consumen y producen texto, imágenes o código a una velocidad difícil de imaginar. Según describía Mat Honan en MIT Technology Review, una sola instalación puede ocupar millones de pies cuadrados, contener cientos de miles de chips de gama alta conectados por kilómetros de cableado y devorar enormes cantidades de electricidad para mantener esas máquinas en marcha sin pausa.
Es fácil caer en la fascinación: la escala, la precisión logística, la refrigeración que parece sacada de una central industrial. También es fácil olvidar que, para quien vive cerca, no es “la nube”, sino un vecino nuevo, enorme, y con necesidades muy terrenales: energía, agua, suelo y permisos. Continúa leyendo «Centros de datos: prodigios de ingeniería que nadie quiere al lado»