Retrieval-Augmented Generation —más conocida como RAG— se ha convertido en una herramienta estrella para las empresas que quieren aprovechar al máximo el potencial de la inteligencia artificial generativa. Pero como todo lo que brilla, también tiene sombras. Nuevas investigaciones han demostrado que esta técnica, aunque útil, puede incrementar los riesgos de obtener respuestas inseguras o incorrectas.
Etiqueta: riesgos de IA
Anthropic: Nuevos benchmarks para la evaluación de modelos de IA
Anthropic ha lanzado un ambicioso programa para financiar el desarrollo de nuevos benchmarks capaces de evaluar el rendimiento y el impacto de los modelos de inteligencia artificial, incluidos los modelos generativos como Claude. Esta iniciativa busca revolucionar la forma en que se mide la seguridad y las capacidades de los sistemas de IA en la industria.
Continúa leyendo «Anthropic: Nuevos benchmarks para la evaluación de modelos de IA»
Cambios en OpenAI: Disolución de equipo de riesgos de IA y qué significa para el futuro de la inteligencia artificial
OpenAI, la startup respaldada por Microsoft y conocida por ChatGPT y sus avances en inteligencia artificial, ha anunciado recientemente una decisión que ha sorprendido a muchos en la industria: la disolución de su equipo dedicado a investigar los riesgos a largo plazo de la IA. Este movimiento se produce justo después de la salida de dos figuras claves del equipo, Ilya Sutskever y Jan Leike. Vamos a profundizar en qué implica esto para la empresa y para el campo de la inteligencia artificial en general.