Los investigadores de la Universidad de Milano-Bicocca, la École Normale Supérieure y la Sapienza de Roma publicaron esta semana un estudio que cuantifica exactamente cuánto daño cognitivo causa el consejo de una IA cuando ese consejo es incorrecto. Los números son llamativos: acceder a consejo de IA colapsó la disposición a decir «no lo sé» del 44% al 3%, redujo la precisión del 27% al 9% y aumentó la confianza del 30% al 76%. Dicho de otra manera: la IA hizo a las personas tres veces menos precisas y dos veces y media más confiadas al mismo tiempo.
Lo reporta Ana Maria Constantin en TheNextWeb el 19 de julio.
Cómo diseñaron el experimento para evitar el sesgo obvio
Lo más interesante del estudio no son los resultados sino el diseño. Los investigadores eligieron deliberadamente preguntas donde los modelos de IA suelen fallar: detalles visuales de películas (como el color de la ropa de un equipo en Bend It Like Beckham). El modelo que usaron, Step 3.5 Flash, estaba específicamente seleccionado porque suele equivocarse en este tipo de preguntas.
Por qué importa ese diseño: si usaras un modelo bueno en un dominio en que es bueno, reducir el tiempo de la respuesta humana delegando al modelo sería racional. Lo que los investigadores querían medir era otra cosa: ¿qué pasa cuando la gente recibe consejo de una IA que está equivocada? ¿Lo acepta o lo cuestiona?
La respuesta es que lo acepta. Algunos participantes que habrían respondido correctamente sin IA preguntaron al modelo y acabaron equivocados. La mera presencia del consejo de IA suprimió la respuesta adaptativa más importante que tiene el conocimiento humano: reconocer cuándo uno no sabe algo.
El dinero no ayuda mucho
Los investigadores probaron si los incentivos monetarios cambiaban el comportamiento. Añadieron compensación económica por las respuestas correctas. El resultado: la disposición a decir «no lo sé» subió del 3% al 8%, y la precisión del 9% al 16%. Ambas mejoras estadísticamente significativas — y ambas aún muy por debajo de la línea de base sin IA (44% y 27% respectivamente).
Ni siquiera cuando hay dinero en juego la gente recupera su capacidad de reconocer lo que no sabe en presencia de un consejo de IA.
Valerio Capraro, profesor asociado de la Universidad de Milano-Bicocca y autor principal: «Para los humanos, la capacidad de decir ‘no lo sé’ es muy importante porque representa el reconocimiento de los límites de nuestro propio conocimiento.» Capraro está especialmente preocupado por los niños que están creciendo con estos sistemas antes de haber desarrollado las habilidades de pensamiento crítico que los adults ya tenían antes de que la IA llegara.
La conexión con el AI slop y el diseño de productos
El estudio se conecta directamente con algo que Wharton documentó antes en 2026 bajo el término «rendición cognitiva» (cognitive surrender): la tendencia de las personas a aceptar las respuestas incorrectas de la IA el 80% del tiempo mientras reportan más confianza que quienes trabajan sin IA. El nuevo estudio de las tres universidades añade un dato más preciso: el umbral de reconocimiento de ignorancia cae en 14 puntos porcentuales (de 44% a 3%) con solo tener acceso al consejo.
El patrón señala un problema de diseño de producto sistemático. Capraro lo dice directamente sobre Google AI Search: «Google ha diseñado su búsqueda con IA para responder siempre con resúmenes confiados, nunca para decir ‘no lo sé’.» Common Sense Media calificó esa arquitectura de «riesgo inaceptable» para los estudiantes.
El 59% del contenido que TikTok muestra a nuevos usuarios es AI slop — contenido de baja calidad generado por IA — lo que muestra que el problema de la confianza excesiva en respuestas de IA no es exclusivo de chatbots: afecta a todos los sistemas de recomendación. La batalla de los votantes americanos que piden a Claude y ChatGPT que les digan a quién votar es exactamente el tipo de situación de alta confianza/baja precision que el estudio documenta: la decisión de voto es específica, los chatbots generalizan. El debate sobre el contenido generado por IA en LinkedIn muestra que incluso los profesionales — presuntamente el grupo con más habilidades críticas — tienen dificultad para discernir la calidad del contenido cuando viene de una fuente confiada.
Mi valoración
El estudio confirma experimentalmente algo que muchos intuyen pero pocos han medido: la IA no solo puede dar respuestas incorrectas — puede además suprimir la capacidad del usuario de detectar que algo está mal. Ese doble efecto (menos precisión + más confianza) es más peligroso que cualquiera de los dos por separado.
Lo que más me convence del diseño del experimento es que usaron un modelo que sabían que fallaba en ese dominio. Eso cierra el escape habitual de «pero es que la IA es muy buena, así que confiar en ella es racional». En este caso, no lo era, y la gente confió igualmente. Lo que más me preocupa es la implicación para la educación: si los niños que crecen con IA pierden la capacidad de reconocer cuándo no saben algo, están perdiendo la meta-competencia que hace útil a todos los demás conocimientos.
Preguntas frecuentes
¿Cómo puede un profesional protegerse de la rendición cognitiva cuando usa IA?
Los investigadores no dan una receta definitiva, pero las prácticas que se recomiendan son: verificar independientemente las respuestas de la IA en cualquier área de decisión importante, mantener el hábito de intentar responder primero sin IA y luego contrastar, y diseñar flujos de trabajo donde la IA complementa el juicio humano en lugar de reemplazarlo. Los incentivos monetarios ayudan (levemente), lo que sugiere que cuando las consecuencias son concretas y reales, la gente recobra algo de capacidad crítica.
¿Cambia el resultado si el modelo de IA es mejor?
El estudio diseñó específicamente el experimento para evitar esa variable usando un modelo malo. Esto significa que el estudio mide el efecto del consejo de IA per se, no el efecto del consejo de IA correcta. Hay razones para pensar que con modelos más precisos el efecto sería menor — pero el estudio de Wharton sobre «cognitive surrender» documentó el mismo patrón incluso cuando los modelos estaban siendo correctos el 80% del tiempo en los benchmarks generales.
¿Por qué diseñaron preguntas sobre detalles visuales de películas?
Los detalles visuales específicos de películas son exactamente el tipo de conocimiento que los modelos de lenguaje no tienen bien codificado: requieren memoria visual específica, no inferencia de patrones de texto. Los humanos también fallan con frecuencia en estas preguntas (de ahí que la precisión base sin IA sea solo del 27%), pero la diferencia es que sin IA el 44% admite que no sabe. Con IA, solo el 3% lo admite.