El desarrollo de modelos de inteligencia artificial ha evolucionado a un ritmo vertiginoso, pero con esa velocidad llega una preocupación inevitable: ¿qué tan seguros son realmente estos sistemas frente a usos maliciosos? Anthropic y OpenAI, dos de los laboratorios más influyentes en el campo, han optado por estrategias claramente diferentes al enfrentar esta pregunta, y sus «system cards» revelan mucho más que simples cifras: muestran filosofías de seguridad completamente distintas. Continúa leyendo «La batalla silenciosa de la seguridad en la IA: Anthropic y OpenAI muestran filosofías opuestas en red teaming»
Etiqueta: red teaming
OpenAI mejora GPT-4o: Redacción creativa más fluida y avances en seguridad con red teaming automatizado
OpenAI, líder en inteligencia artificial (IA), ha anunciado una importante actualización de su modelo GPT-4o, diseñado para mejorar su capacidad de redacción creativa, fluidez en respuestas y procesamiento de archivos. Además, la compañía compartió avances en red teaming automatizado, un método innovador para identificar vulnerabilidades en sistemas de IA. Estas novedades prometen llevar la interacción con inteligencia artificial a un nuevo nivel de precisión, seguridad y utilidad.