OpenAI busca jefe de preparación: una misión entre la innovación y el caos potencial

El anuncio reciente de OpenAI sobre la búsqueda de un «jefe de preparación» ha despertado reacciones de todo tipo. No es para menos: se trata de una posición con un sueldo de 555.000 dólares anuales, pero con responsabilidades tan complejas que parece extraída de una novela distópica sobre inteligencia artificial. Sam Altman, CEO de la compañía, lo dijo sin rodeos: “Este será un trabajo estresante, y comenzarás sumergido hasta el cuello desde el primer día”.

Este puesto se ubica dentro del departamento de sistemas de seguridad de OpenAI, una sección que no se dedica a vender productos ni a desarrollar nuevas capacidades, sino a prever riesgos y evitar desastres. En términos prácticos, significa construir barreras invisibles para que modelos como ChatGPT o Sora se comporten “como se espera” en situaciones del mundo real. Continúa leyendo «OpenAI busca jefe de preparación: una misión entre la innovación y el caos potencial»

¿Es RAG un arma de doble filo? El lado oscuro de una técnica que está revolucionando la inteligencia artificial

Retrieval-Augmented Generation —más conocida como RAG— se ha convertido en una herramienta estrella para las empresas que quieren aprovechar al máximo el potencial de la inteligencia artificial generativa. Pero como todo lo que brilla, también tiene sombras. Nuevas investigaciones han demostrado que esta técnica, aunque útil, puede incrementar los riesgos de obtener respuestas inseguras o incorrectas.

Continúa leyendo «¿Es RAG un arma de doble filo? El lado oscuro de una técnica que está revolucionando la inteligencia artificial»

Anthropic: Nuevos benchmarks para la evaluación de modelos de IA

Anthropic ha lanzado un ambicioso programa para financiar el desarrollo de nuevos benchmarks capaces de evaluar el rendimiento y el impacto de los modelos de inteligencia artificial, incluidos los modelos generativos como Claude. Esta iniciativa busca revolucionar la forma en que se mide la seguridad y las capacidades de los sistemas de IA en la industria.

Continúa leyendo «Anthropic: Nuevos benchmarks para la evaluación de modelos de IA»

Cambios en OpenAI: Disolución de equipo de riesgos de IA y qué significa para el futuro de la inteligencia artificial

OpenAI, la startup respaldada por Microsoft y conocida por ChatGPT y sus avances en inteligencia artificial, ha anunciado recientemente una decisión que ha sorprendido a muchos en la industria: la disolución de su equipo dedicado a investigar los riesgos a largo plazo de la IA. Este movimiento se produce justo después de la salida de dos figuras claves del equipo, Ilya Sutskever y Jan Leike. Vamos a profundizar en qué implica esto para la empresa y para el campo de la inteligencia artificial en general.

Continúa leyendo «Cambios en OpenAI: Disolución de equipo de riesgos de IA y qué significa para el futuro de la inteligencia artificial»