El mundo de la inteligencia artificial empresarial se ha volcado en los modelos open source por su aparente ventaja económica: menores costes por token y mayor control. Pero un estudio reciente de Nous Research pone sobre la mesa una verdad incómoda: estos modelos de «peso abierto» pueden estar consumiendo hasta 10 veces más recursos computacionales que sus homólogos cerrados para tareas simples.
Cuando hablamos de recursos computacionales, nos referimos principalmente a los tokens, las unidades básicas con las que los modelos procesan y generan texto. Aunque cada token cuesta menos en sistemas open source, si se usan muchos más para tareas sencillas, el coste total puede dispararse.
Continúa leyendo «La paradoja del coste en la IA open source»