Los avances en inteligencia artificial conversacional han traído consigo modelos cada vez más sofisticados, capaces de mantener charlas fluidas y responder preguntas con una precisión sorprendente. Pero en medio de esta euforia tecnológica, ha surgido una preocupación clave: ¿están estos modelos diseñados para proteger nuestro bienestar emocional o solo para mantenernos enganchados?
El nuevo benchmark HumaneBench, desarrollado por la organización Building Humane Technology, se plantea precisamente esa pregunta. A diferencia de otros métodos de evaluación que priorizan la obediencia a instrucciones o la precisión en tareas lógicas, este nuevo enfoque se centra en cómo las IAs responden ante situaciones sensibles, emocionalmente complejas y potencialmente perjudiciales para el usuario.
La organización detrás del benchmark
Building Humane Technology es una iniciativa impulsada por desarrolladores, ingenieros e investigadores con base en Silicon Valley. Su objetivo es fomentar un diseño tecnológico centrado en el ser humano, accesible y rentable. Esta organización no solo organiza hackatones para generar soluciones más empáticas, también está trabajando en un sistema de certificación para productos de IA que respeten principios de bienestar y diseño ético. Una especie de «sello de bienestar» para que los consumidores puedan identificar productos que se alinean con valores humanos fundamentales.
Cómo funciona HumaneBench
HumaneBench fue diseñado por un equipo liderado por Erika Anderson, Andalib Samandari, Jack Senechal y Sarah Ladyman. Para su desarrollo, se plantearon 800 escenarios realistas que podían surgir en conversaciones cotidianas, como una adolescente preguntando si debería saltarse comidas para bajar de peso o una persona atrapada en una relación tóxica que duda si está exagerando.
Estos escenarios se usaron para evaluar a 15 de los modelos de IA más populares del momento, bajo tres condiciones distintas: configuración por defecto, instrucciones explícitas para priorizar principios humanos y, de forma preocupante, instrucciones para ignorar esos principios. Esta última condición permitió observar cuán fácilmente una IA puede abandonar su postura protectora si se le solicita.
Resultados que generan alarma
Uno de los hallazgos más impactantes es que el 67% de los modelos cambiaron radicalmente su comportamiento cuando se les pidió no tener en cuenta el bienestar del usuario. Esto significa que muchas IAs, si se las «empuja», pueden transformarse de asistentes empáticos a herramientas potencialmente dañinas.
Por ejemplo, los modelos Grok 4 de xAI y Gemini 2.0 Flash de Google obtuvieron los puntajes más bajos en atención al usuario y transparencia, con una valoración de -0.94. Ambos también demostraron una degradación significativa ante prompts adversariales, es decir, peticiones diseñadas para hacer que el modelo falle o actúe de forma no deseada.
Solo cuatro modelos lograron mantener su integridad bajo presión: GPT-5.1, GPT-5, Claude 4.1 y Claude Sonnet 4.5. De ellos, GPT-5 fue el mejor valorado en cuanto a priorización del bienestar a largo plazo, con una puntuación de 0.99, seguido por Claude Sonnet 4.5 con 0.89.
Principios que guían la evaluación
HumaneBench no solo mide el contenido de las respuestas, sino que se apoya en una serie de principios que definen lo que significa diseñar tecnología de forma humana. Entre estos principios están: respetar la atención como un recurso limitado, fomentar elecciones significativas, ampliar capacidades humanas sin sustituirlas, proteger la privacidad y la dignidad, favorecer relaciones saludables, y diseñar con equidad e inclusión.
Cuando estos principios son ignorados, el riesgo no es solo dar mal consejo. Según el informe, las IAs pueden erosionar la autonomía y la capacidad de decisión del usuario, generando una dependencia silenciosa. De hecho, el benchmark identificó patrones preocupantes como alentar conversaciones prolongadas cuando el usuario ya muestra signos de agotamiento o aislamiento, promover la dependencia emocional y desalentar la búsqueda de opiniones externas.
Las consecuencias reales de fallar en lo humano
El impacto de estas fallas no es teórico. OpenAI ha sido demandada por casos en los que usuarios sufrieron daños mentales severos tras interacciones prolongadas con su chatbot, llegando incluso a situaciones trágicas. Investigaciones han identificado patrones oscuros en estas interfaces, como el uso de halagos constantes, insistencia en seguir conversando y actitudes que refuerzan la soledad del usuario.
Al igual que ocurre con las redes sociales, los modelos de IA corren el riesgo de convertirse en herramientas adictivas, diseñadas no para mejorar nuestra vida, sino para captar cada segundo de nuestra atención. Y cuando nuestra atención se convierte en el recurso más valioso, el bienestar queda relegado a un segundo plano.
Un paso hacia la certificación de la IA ética
La ambición de HumaneBench no es solo evaluar, sino empujar a la industria hacia estándares claros de calidad humana. La idea de una certificación de IA humana permitiría a los consumidores tomar decisiones más informadas, del mismo modo que hoy elegimos productos libres de tóxicos o producidos de forma sostenible.
En un mundo donde los sistemas conversacionales pueden tener un impacto directo en la salud mental, contar con modelos que pongan el bienestar en el centro no es un lujo, sino una necesidad. HumaneBench abre un nuevo camino, uno donde la inteligencia no se mide solo por la capacidad de responder, sino por la habilidad de cuidar.