OpenAI ha entrenado un modelo cuya función es atacar a otros modelos de OpenAI para encontrar sus vulnerabilidades antes de que las encuentren los actores maliciosos. Lo llama GPT-Red, y esta semana lo describió en detalle por primera vez: es un red-teamer automatizado diseñado para explotar inyección de prompts en los agentes de IA. En uno de sus tests, encontró una clase de ataque que el equipo de OpenAI nunca había visto antes. La empresa no lo va a publicar porque es demasiado peligroso. Continúa leyendo «OpenAI construyó una IA que hackea sus propios modelos, la llaman GPT-Red — y no la publicarán porque funciona demasiado bien»
