La inteligencia artificial (IA) se ha convertido en un pilar fundamental para muchas organizaciones. En este contexto, Cloudflare, una empresa con una red global robusta, ha anunciado una serie de actualizaciones significativas en su plataforma de IA.
La Nueva Oferta de Cloudflare
Workers AI
Workers AI es un servicio que ofrece capacidades serverless para desplegar modelos de IA en todo el mundo. Esta funcionalidad permite que el código de la aplicación se ejecute en el borde de una red, eliminando la necesidad de servidores siempre activos. Cloudflare se encarga de determinar automáticamente el hardware ideal para optimizar las tareas de inferencia de IA.
AI Gateway
El AI Gateway es otra adición crucial. Este componente se coloca delante de las aplicaciones de IA y ofrece herramientas para su gestión, monitoreo y control. Proporciona visibilidad sobre patrones de uso y tokens de API, lo que es esencial para escalar aplicaciones de IA de manera efectiva.
Vectorize
Finalmente, Vectorize es una base de datos vectorial distribuida globalmente. Su objetivo es almacenar datos vectorizados más cerca de donde se necesita realizar la inferencia, facilitando así la escalabilidad de las aplicaciones de IA.
Alianzas Estratégicas
Cloudflare ha establecido alianzas con Hugging Face y Microsoft. La primera permite un fácil despliegue de modelos en la plataforma Workers AI. La segunda, con Microsoft, se centra en utilizar el modelo de tiempo de ejecución ONNX para potenciar la inferencia de IA.
Desafíos y Futuro
Uno de los desafíos más grandes para Cloudflare es la implementación de hardware adecuado en su red global, que abarca más de 300 ciudades. La empresa está en proceso de desplegar una amplia gama de GPUs y CPUs optimizadas para IA.
Tenéis más información en Venturebeat