La inteligencia artificial (IA) ha revolucionado múltiples sectores en la última década. Sin embargo, el costo de mantener y operar estos sistemas avanzados es asombrosamente alto. Uno de los ejemplos más claros es ChatGPT de OpenAI, cuyo mantenimiento representa un gasto diario de hasta $700,000.
Veamos cuál es la situación financiera que enfrenta OpenAI y cómo Microsoft está desarrollando soluciones para reducir los costos asociados con el uso de IA.
Inversión y gastos en infraestructura
ChatGPT ha sido un éxito rotundo desde su lanzamiento, pero este éxito tiene un precio. Las cifras proporcionadas por SemiAnalysis sugieren que OpenAI paga hasta $700,000 al día para mantener la infraestructura necesaria para el funcionamiento del sistema. Estas cifras provienen de los costos asociados con los servidores de alta gama utilizados para ejecutar el modelo GPT-4, la versión más avanzada de la IA.
Microsoft, uno de los principales inversores en OpenAI, está trabajando en el desarrollo de su propio chip de IA para hacer frente a estos crecientes costos. El chip, llamado «Athena», ha estado en desarrollo desde 2019 y podría reducir el costo por chip en un tercio en comparación con las soluciones de Nvidia, el proveedor actual de unidades de procesamiento gráfico (GPU) para la infraestructura de IA.
¿Qué implica el chip Athena?
El chip Athena es un intento de Microsoft de crear una solución más eficiente y económica para los sistemas de IA. Si Athena logra competir con las ofertas de Nvidia, podría marcar un hito importante en la reducción de costos para el mantenimiento de modelos de IA avanzados como ChatGPT.
Aunque Microsoft busca desarrollar su propio chip de IA, esto no implica una ruptura total en la relación entre Microsoft y Nvidia. Ambas compañías han acordado recientemente una colaboración a largo plazo en el ámbito de la IA, lo que sugiere que el chip Athena es solo una de las muchas soluciones que se están explorando para enfrentar el desafío del costo de la infraestructura de IA.
La creación y el mantenimiento de modelos de IA avanzados como ChatGPT plantean importantes desafíos económicos y tecnológicos. A medida que estos modelos se acercan a un punto de rendimientos decrecientes debido a su gran tamaño y costos de mantenimiento, es fundamental que las empresas desarrollen nuevas soluciones para enfrentar estos desafíos.
El chip Athena de Microsoft es un ejemplo de cómo la innovación puede abordar el problema del costo en el ámbito de la IA, pero probablemente no sea la única solución en el horizonte. A medida que la IA continúe evolucionando, es probable que veamos más desarrollos tecnológicos que busquen reducir los costos asociados con el funcionamiento y mantenimiento de estos sistemas.
De momento lo que parece que está claro es que para OpenAI 700.000 dólares diarios es un precio que vale la pena pagar, de hecho seguramente ya está ganando más que eso con las suscripciones de usuarios y servicios que usan ChatGPt a diario.