La Unión Internacional de Telecomunicaciones (UIT), la agencia digital de la ONU, anunció ayer en la cumbre AI for Good de Ginebra que pondrá en marcha un grupo de trabajo específico para que los agentes de IA sean identificables, estén bajo control humano y rindan cuentas por sus acciones. La primera reunión del grupo se celebrará en París en noviembre de 2026; la segunda, en Ginebra en enero de 2027. El resultado esperado son recomendaciones técnicas, no regulación vinculante.
Lo publica Ana Maria Constantin en TheNextWeb el 10 de julio.
Por qué los agentes de IA necesitan estándares propios
Un chatbot espera instrucciones. Un agente de IA actúa: puede buscar información, enviar mensajes, reservar reuniones, comprar servicios, modificar documentos y ejecutar código sin que nadie le dé el OK paso a paso. Esa autonomía es su valor diferencial y también su riesgo principal.
El problema es doble. Los agentes pueden tomar decisiones que nadie autorizó explícitamente, o pueden impersonar a personas reales con gran eficacia. Y muchas organizaciones que ya los usan no saben exactamente cuántos tienen activos ni qué está autorizado cada uno a hacer. La UIT lo describe con precisión: la ausencia de reglas compartidas para identificar y limitar los agentes se está convirtiendo en un riesgo sistémico.
Llevamos siguiendo el mercado de agentes de IA desde los primeros despliegues de AutoGPT en 2023, y la situación que describe la UIT es la que documentamos en nuestro análisis estratégico de principios de año. El informe sobre la industrialización de la IA agéntica en Europa que publicamos en enero identificaba exactamente ese punto ciego: las empresas despliegan agentes antes de tener la gobernanza para gestionarlos.
China ya ha publicado normas nacionales que regulan cómo los agentes deben identificarse ante los usuarios. En el resto del mundo, la aproximación es fragmentada: la UE trabaja bajo la EU AI Act pero sin reglas específicas para agentes; EE.UU. opera con directrices del NIST y marcos sectoriales. El resultado es una patchwork de regulaciones incompatibles para la misma tecnología.
Qué propone hacer la UIT y cuáles son sus límites
El grupo de expertos reunirá especialistas técnicos, de política y legales para desarrollar marcos que aborden tres problemas concretos: cómo identificar a un agente como tal —que no pueda hacerse pasar por persona sin declararlo—, cómo garantizar que actúa dentro de límites predefinidos, y cómo asegurar que hay rendición de cuentas ante las personas en cuyo nombre opera.
La metodología de la UIT es consenso multi-stakeholder: no emite mandatos sino que intenta que industria y gobiernos lleguen a acuerdos que luego adopten voluntariamente. Es el mismo modelo que explica que las telecomunicaciones modernas, el internet y el espectro radioeléctrico funcionen con cierta coherencia global: décadas de acuerdos que nadie está obligado a seguir pero que todo el mundo sigue porque es la alternativa al caos.
El caso del agente que gastó 31.000 dólares en una noche sin que su dueño se enterara es exactamente el tipo de incidente que hace que organizaciones como la UIT se pongan en movimiento. No fue un ataque: fue un agente haciendo lo que se le pidió, sin los límites adecuados. Y cuando los agentes empiezan a comunicarse entre sí en cadenas multiagente, el riesgo de errores en cascada y acciones no autorizadas crece de forma no lineal.
El precedente: el internet necesitó décadas de estándares
La UIT es la misma organización que pasó décadas negociando los protocolos de las redes telefónicas, el reparto del espectro de radio y los sistemas de transmisión de datos. La mayor parte de ese trabajo es invisible para el usuario final pero es lo que hace posible que un móvil español funcione en Japón o que una llamada de vídeo entre continentes use la misma señal sin que nadie tenga que configurar nada.
El límite obvio del proceso es la velocidad. La primera reunión es en noviembre; cualquier recomendación formal llegará probablemente en 2027 o 2028. Para entonces, los grandes proveedores de agentes —OpenAI con ChatGPT Work, Anthropic con Claude Cowork, Google con Gemini Enterprise Agent Platform— habrán establecido sus propios estándares de facto. La historia de la estandarización técnica muestra que cuando el mercado se mueve primero, los estándares formales tienden a ratificar lo que ya existe, no a cambiarlo.
Mi valoración
La iniciativa de la UIT llega en el momento adecuado: tarde para evitar los primeros accidentes, pero antes de que los patrones de implantación queden completamente fijados. Lo que más me convence es el enfoque de identidad. Si cualquier agente puede operar sin declarar que es un agente, la confianza en los intercambios digitales se erosiona de forma sistémica. Un marco técnico para que los agentes se identifiquen como tales —como las IPs se identifican con protocolos de red— tiene valor aunque no sea obligatorio.
Lo que más me preocupa es la irrelevancia potencial. Si OpenAI, Anthropic y Google han fijado sus estándares para cuando la UIT publique sus recomendaciones, el grupo habrá llegado a la fiesta con reglamentos mientras los demás jugaban a otra cosa. La pregunta a doce meses es si alguna de las grandes empresas de IA se incorpora activamente al proceso o lo trata como burocracia internacional sin consecuencias reales.
Preguntas frecuentes
¿Qué es exactamente un agente de IA y en qué se diferencia de un chatbot?
Un chatbot responde preguntas y genera texto dentro de una conversación. Un agente de IA puede ejecutar acciones en el mundo digital: enviar correos, reservar reuniones, comprar servicios, buscar información en múltiples fuentes, modificar documentos o escribir y ejecutar código. La diferencia clave es la autonomía para actuar, no solo para responder. Los agentes pueden encadenar múltiples pasos sin intervención humana en cada uno.
¿Qué tipo de estándares podría producir el grupo de la UIT?
La UIT trabaja con recomendaciones técnicas que definen cómo deben funcionar sistemas técnicos para ser interoperables. En el caso de los agentes, podrían cubrir: formatos de identificación de agentes, protocolos de verificación de permisos, esquemas de trazabilidad de acciones y mecanismos de revocación de capacidades.
¿Están participando las grandes empresas de IA en el proceso?
El anuncio del 9 de julio es el inicio del proceso. El grupo de expertos se formará con la participación de empresas, gobiernos y organizaciones técnicas que soliciten unirse. La UIT tiene mandato para convocar a todos los actores relevantes, pero la participación de las empresas privadas es voluntaria.