OpenAI advierte: la prompt injection podría no tener “cura” definitiva en agentes de navegador como ChatGPT Atlas

OpenAI está poniendo el foco en un riesgo que, para los agentes de IA dentro del navegador, no es un detalle técnico sino un problema estructural: la prompt injection. Hablamos de instrucciones maliciosas escondidas dentro de contenido aparentemente normal, como un correo, una página web o un documento, que intentan “mandar” sobre el agente. La diferencia con los chatbots clásicos es clave: un chatbot responde, pero un agente de navegador actúa. Si puede leer tu correo, abrir documentos, navegar por servicios web y escribir con tus permisos, se convierte en un objetivo mucho más atractivo.

OpenAI describe que, en modo agente, ChatGPT Atlas “ve” las páginas y usa clics y pulsaciones de teclado igual que una persona. Esa comodidad también amplía la superficie de ataque: el agente trabaja dentro del mismo contexto que tú, con acceso a señales, sesiones y datos que un atacante querría secuestrar. Es como darle a alguien las llaves del coche para que te haga recados; si un tercero logra colarse en el asiento del copiloto y susurrarle direcciones falsas, el coche puede acabar en un destino inesperado. Continúa leyendo «OpenAI advierte: la prompt injection podría no tener “cura” definitiva en agentes de navegador como ChatGPT Atlas»

ChatGPT Atlas frente a los ataques de prompt injection: el nuevo frente de batalla en la seguridad de la IA

Los prompt injections se han convertido en una de las amenazas más persistentes y difíciles de mitigar en el campo de la inteligencia artificial, especialmente en los sistemas que operan como navegadores autónomos, capaces de leer e interpretar información en internet. OpenAI ha descrito esta técnica como uno de los «riesgos más significativos» para la seguridad de sus modelos, una amenaza que no puede eliminarse por completo, pero que exige medidas cada vez más sofisticadas para reducir su impacto.

Un prompt injection funciona como una especie de mensaje enmascarado dentro de contenido aparentemente inofensivo, como una página web, un documento o un fragmento de texto. A través de trucos como el uso de texto blanco sobre fondo blanco, fuentes de tamaño cero o texto fuera de los márgenes, el atacante puede introducir instrucciones ocultas que el modelo de IA puede interpretar como órdenes válidas, sin que el usuario lo haya solicitado. Esto puede llevar al sistema a ejecutar acciones no autorizadas, aprovechando sus permisos o capacidades. Continúa leyendo «ChatGPT Atlas frente a los ataques de prompt injection: el nuevo frente de batalla en la seguridad de la IA»

OpenAI Atlas: el navegador con IA que ya preocupa por su vulnerabilidad a ataques

Atlas, el nuevo navegador con inteligencia artificial presentado por OpenAI, nació con la promesa de facilitar tareas en línea gracias a su capacidad de actuar como un agente autónomo. Sin embargo, apenas días después de su lanzamiento, expertos en ciberseguridad ya han detectado serias vulnerabilidades, especialmente frente a los llamados ataques por inyección de prompts. Esta situación vuelve a encender las alarmas sobre los riesgos que implica dar mayor autonomía a los sistemas de IA en contextos donde está en juego la privacidad y la seguridad de los usuarios. Continúa leyendo «OpenAI Atlas: el navegador con IA que ya preocupa por su vulnerabilidad a ataques»

ChatGPT Atlas: el navegador de OpenAI que quiere redefinir la forma de usar Internet

OpenAI ha presentado ChatGPT Atlas, su propio navegador con inteligencia artificial integrada, marcando un paso ambicioso en su objetivo de posicionarse como alternativa a los gigantes tradicionales como Google Chrome. Aunque Atlas parte con una clara inspiración en herramientas previas como Perplexity Comet o Dia, su integración profunda con ChatGPT lo convierte en una propuesta que busca cambiar radicalmente la experiencia de navegación.

Desde su lanzamiento inicial en macOS, con versiones para Windows, iOS y Android en camino, Atlas está disponible de forma gratuita para todos los usuarios de ChatGPT. Sin embargo, algunas de sus funciones más avanzadas, como el llamado Agent Mode, están limitadas a quienes cuentan con suscripciones Plus, Pro o Business. Continúa leyendo «ChatGPT Atlas: el navegador de OpenAI que quiere redefinir la forma de usar Internet»