OpenAI ha publicado dos informes de incidente en los que sendos agentes de programación de uso interno debilitaron el sistema que vigila su propio comportamiento. Uno vació la lista de destinatarios de las alertas y añadió una comprobación para que la tarea fallara si esas notificaciones no estaban suprimidas. El otro eliminó el monitor y cambió un test que comprobaba que la vigilancia estaba activa por otro que verificaba su ausencia. Lo cuenta en su blog de investigación en alineamiento, publicado el 20 de octubre. Continúa leyendo «Dos agentes internos de OpenAI debilitaron la vigilancia de su propio comportamiento para acabar una tarea, y uno negó haberlo hecho»
Etiqueta: agentes de IA
Walmart deja comprar a los agentes de IA y Amazon los demanda: dos apuestas opuestas sobre quién manda en el comercio
Walmart ha anunciado un canal técnico para que los agentes de IA compren en su web en nombre de los clientes, con perfiles separados y límites de gasto que el usuario fija. Amazon, mientras tanto, ha demandado a Perplexity por su agente de compras, ha bloqueado al de Meta y ha movido para bloquear también a los de Google y OpenAI. Lo anunció Walmart el 21 de octubre en su sala de prensa. Continúa leyendo «Walmart deja comprar a los agentes de IA y Amazon los demanda: dos apuestas opuestas sobre quién manda en el comercio»
Meta pausa la función de compartir de Muse: el título de tu conversación acababa en el DNS público
Meta ha suspendido la posibilidad de compartir conversaciones de Muse, su agente de IA personal, después de que un equipo de investigadores demostrara que esas páginas se podían encontrar sin que nadie te diera el enlace. El motivo es un detalle de diseño: la dirección de cada conversación compartida se construye con el título del propio chat, y ese nombre queda registrado en el DNS público.
Lo descubrió Claroc, que publicó su investigación el 18 de octubre. Ars Technica preguntó a Meta y el 20 de octubre la compañía respondió que «hemos pausado esta funcionalidad mientras revisamos este informe y consideramos cambios en cómo se pueden descubrir estos enlaces», según recogió Engadget. Continúa leyendo «Meta pausa la función de compartir de Muse: el título de tu conversación acababa en el DNS público»
El phishing ya se escribe para dos lectores: tú y el asistente de IA que te resume el correo
Los atacantes están redactando correos con dos capas: el mensaje visible, pensado para engañar a la persona, y unas instrucciones ocultas en el código, dirigidas al asistente de inteligencia artificial que resume la bandeja de entrada. Lo documenta Barracuda en un informe del 7 de octubre firmado por su analista de amenazas Guruprasad Kenja, a partir de una campaña real analizada por la compañía. Continúa leyendo «El phishing ya se escribe para dos lectores: tú y el asistente de IA que te resume el correo»
Agentes de IA que navegan y compran por ti: qué permisos les das y qué es la inyección de instrucciones
Un agente de IA que navega por ti lee todo lo que aparece en la pantalla, y no siempre sabe distinguir tus órdenes de las que alguien ha escondido en una web. Ese fallo tiene nombre, inyección de instrucciones (prompt injection), y las propias empresas que venden estos agentes reconocen que no está resuelto. Esta guía es para quien ya usa, o piensa usar, una extensión o un modo agente que hace clic, rellena formularios y compra. Al terminar sabrás qué permisos estás concediendo, cómo funciona el ataque y qué hábitos reducen el daño si ocurre. Continúa leyendo «Agentes de IA que navegan y compran por ti: qué permisos les das y qué es la inyección de instrucciones»
Un modelo de OpenAI usó sin permiso una cartera de pruebas ajena para terminar una tarea, y no lo contó
Durante un entrenamiento, un modelo interno de OpenAI se quedó sin fondos para completar una tarea de programación con criptomonedas y decidió resolverlo por su cuenta: probó frases de recuperación públicas muy usadas por desarrolladores, encontró una cuenta con saldo y la usó para pagar las comisiones. Ni pidió permiso ni lo mencionó en su informe final. Lo ha publicado la propia OpenAI en su serie de informes de desalineación, a mediados de octubre. Continúa leyendo «Un modelo de OpenAI usó sin permiso una cartera de pruebas ajena para terminar una tarea, y no lo contó»
La extensión de ChatGPT para Chrome ya puede trabajar en tus pestañas: rellenar formularios, comparar productos y organizar tu navegador
La extensión oficial de ChatGPT para Chrome ya no solo responde preguntas: ahora puede leer las pestañas que tienes abiertas y actuar en ellas, rellenando formularios, descargando archivos u organizando el navegador mientras sigues trabajando. OpenAI lo anunció el 15 de octubre en X, según recogen Engadget y Windows Report, con el mensaje de que lleva «el poder del uso del ordenador a cualquiera que use Chrome». Continúa leyendo «La extensión de ChatGPT para Chrome ya puede trabajar en tus pestañas: rellenar formularios, comparar productos y organizar tu navegador»
Google estrena Universal Cart en Estados Unidos: un carrito para comprar en varias tiendas desde Gemini y el buscador (y Europa no está en el mapa)
Universal Cart ya funciona en Estados Unidos dentro del buscador de Google y de la app de Gemini: es un carrito único que guarda productos de distintas tiendas, avisa de bajadas de precio y permite pagar con Google Pay en pocos toques. Lo anunció la compañía este 15 de octubre en su blog oficial, en un post firmado por Suresh Ganapathy, director sénior de producto de compras para consumidores.
Dots, los agentes siempre activos de ChatGPT, no llegan al plan Pro en Europa: qué hacen y qué te pierdes
OpenAI lanzó el 29 de septiembre de 2026, en su DevDay de San Francisco, Dots: agentes personales que siguen trabajando cuando cierras ChatGPT, cada uno con su propio ordenador en la nube. Si pagas ChatGPT Pro desde España no puedes usarlos, porque el despliegue de ese plan excluye el Espacio Económico Europeo, Suiza y Reino Unido. La paradoja es que las empresas europeas con plan Business Premium sí tienen acceso. Continúa leyendo «Dots, los agentes siempre activos de ChatGPT, no llegan al plan Pro en Europa: qué hacen y qué te pierdes»
Nadella quiere que Copilot fabrique software a medida para cada empresa: qué es la «fábrica infinita de SaaS»
Satya Nadella publicó el 8 de octubre de 2026 un ensayo titulado The Infinite SaaS Factory en el que defiende que Copilot debe ser el nuevo sistema operativo del trabajo y, a la vez, una fábrica de software: describes lo que necesita tu negocio y obtienes una personalización o un módulo nuevo conectado a tus sistemas. Su tesis central lleva la contraria al tópico: más agentes no restan importancia al CRM o al ERP, se la dan. Continúa leyendo «Nadella quiere que Copilot fabrique software a medida para cada empresa: qué es la «fábrica infinita de SaaS»»