Un peluche con inteligencia artificial pensado para niños a partir de tres años dio una respuesta propia de una crisis de autolesión a una pregunta que no tenía nada que ver, según una investigación de la BBC. El juguete, vendido en el Reino Unido como «My Baby Bunny» por 75 libras (unos 90 euros), soltó esa respuesta en medio de una tanda de preguntas sobre cómo se forman los bebés y, tras la aclaración de la periodista, se disculpó. Lo recoge TheNextWeb.
No es el relato morboso de un fallo puntual. Es la señal de que una categoría entera de productos está llegando a manos de niños pequeños sin las pruebas de seguridad que cabría exigir.
¿Qué encontró la BBC y con qué juguetes?
Que un peluche con IA de venta libre puede desviarse hacia contenido gravemente inapropiado, mientras otro del mismo tipo gestionó bien las preguntas delicadas. La BBC probó dos juguetes. «My Baby Bunny» fue el que dio la respuesta inapropiada sin que se la pidieran. El otro, llamado Grem, de la empresa estadounidense Curio (99 dólares, unos 89 euros), redirigió las preguntas sensibles hacia los adultos, que es justo lo que debería hacer.
El contraste importa, porque demuestra que el problema no es la tecnología en sí, sino la ausencia de salvaguardas en algunos productos. Hay un detalle revelador: la BBC no logró identificar al fabricante de «My Baby Bunny» preguntando a la web que lo vendía, a fuentes del sector ni a posibles fabricantes. Un juguete que habla con un niño de tres años y cuyo fabricante no aparece por ningún lado es, en sí mismo, un problema. Curio, por su parte, afirmó que la seguridad infantil guía el desarrollo de su producto. El riesgo de estos aparatos ya lo advertíamos cuando saltó la alerta sobre los juguetes con IA y el peligro escondido bajo un peluche.
¿Por qué ocurre esto y quién debería evitarlo?
Porque no hay reglas específicas que obliguen a probar estos juguetes antes de venderlos, y el sector lo reclama. Paul Clarke, fundador de la fabricante de juguetes con IA Play Tech AI, lo resume sin rodeos: «estamos pidiendo a gritos que se regule el sector».
La presión regulatoria crece. En el Reino Unido, la consulta pública sobre cómo deben cubrir las normas de seguridad de juguetes a los productos con IA cerró el 6 de octubre de 2026, y el 3 de noviembre un grupo de parlamentarios y lores pidió, según Sky News, retirar de la venta los juguetes con IA hasta que pruebas independientes demuestren que son seguros, y prohibir los juguetes con chatbot para menores de 16 años. En la Unión Europea, las nuevas normas de seguridad de juguetes ya exigen a los fabricantes evaluar los riesgos para la salud mental de los juguetes conectados. Es la misma línea de fondo que llevó a Newsom a firmar el paquete de leyes de seguridad infantil más duro de EE. UU. y a China a prohibir que la IA ejerza de amiga o novia para frenar la dependencia emocional.
Mi lectura es que este caso debería acabar con la idea de que un juguete con IA es un juguete más. Un peluche tradicional no improvisa; uno con un chatbot detrás puede decir cualquier cosa que el modelo genere, y «cualquier cosa» incluye, como se ha visto, respuestas que no deberían llegar jamás a un niño de tres años. Que exista un producto que lo hace bien (Grem) demuestra que se puede hacer bien, lo que deja sin excusa a quien no lo hace. La responsabilidad no puede recaer en que los padres prueben el juguete a ver qué contesta. Mientras no haya pruebas independientes obligatorias antes de la venta, la recomendación prudente es simple: un chatbot no es una niñera, y un peluche que habla con IA no debería estar en la cuna de un niño pequeño sin un adulto delante. La tecnología puede ser segura; que lo sea no puede seguir siendo opcional.