La necesidad de una IA más humilde: cuando los chatbots deben aprender a decir «no lo sé»

Publicado el

ilustración pop art de un chatbot de inteligencia artificial pidiendo ayuda.

Hablemos claro: los chatbots que utilizamos hoy en día, como el popular Copilot de Microsoft, están lejos de ser perfectos. Aunque prometen hacer maravillas y resolver problemas complejos, aún tienen un gran defecto: no saben cuándo quedarse callados. ¿Cuántas veces has visto una respuesta de una IA que parece sacada de la nada? Este fenómeno, conocido como «alucinación», ocurre cuando el modelo inventa respuestas, y es un problema importante para empresas que dependen de estos sistemas para interactuar con sus clientes.

La honestidad como solución

Vik Singh, vicepresidente de Microsoft, lo ha explicado claramente: las IA deberían aprender a levantar la mano y decir «necesito ayuda». Parece simple, pero es un gran paso hacia una IA más honesta y útil. Pongamos un ejemplo práctico. Imagina que eres un cliente que necesita resolver un problema urgente con su proveedor de internet. Contactas al chatbot y, en lugar de recibir una solución rápida, obtienes una respuesta que no tiene sentido o, peor aún, que te lleva a realizar acciones incorrectas. En este caso, ¿no sería mejor que el chatbot admitiera que no sabe y te redirigiera a un humano que realmente pueda ayudar?

El costo de las malas respuestas

Las «alucinaciones» no solo crean frustración, también pueden salir muy caras. Algunas empresas han visto cómo sus clientes se van a la competencia tras experiencias negativas con sus asistentes virtuales. Microsoft, por ejemplo, ha identificado que muchos de sus clientes corporativos no pueden permitirse el lujo de tener respuestas incorrectas, incluso ocasionalmente. Si una IA da una respuesta equivocada en un contexto crítico, puede dañar la reputación de la empresa y provocar pérdidas significativas.

Entonces, ¿cómo solucionarlo? Singh cree que los modelos generativos deben ser más humildes. Aceptar que no siempre tienen la respuesta correcta y aprender a pedir ayuda puede parecer un paso atrás para algunos, pero en realidad es una forma de avanzar hacia una IA más confiable. Incluso si el modelo tuviera que pedir ayuda en el 50% de los casos, seguiría ahorrando tiempo y dinero a las empresas.

Ahorros reales, incluso con limitaciones

Un caso interesante es el de una empresa cliente de Microsoft que gasta 8 dólares cada vez que un representante de servicio al cliente responde a una consulta. Si la IA pudiera manejar solo una parte de estas consultas de manera efectiva, incluso necesitando asistencia humana la mitad de las veces, el ahorro sería considerable. Singh menciona que empresas como Lumen, una empresa de telecomunicaciones, ya están viendo ahorros de hasta 50 millones de dólares al año gracias a la integración de Copilot en sus procesos de ventas.

Esto es algo que en WWWhatsnew.com hemos visto en muchos casos. En nuestras entrevistas con startups y empresas tecnológicas, siempre surge el tema del costo-beneficio de las soluciones de IA. El ahorro no solo se mide en dinero, sino también en la satisfacción del cliente, que al final del día puede ser incluso más valioso.

Un futuro de IA más autónoma

El equipo de Singh está trabajando en hacer que Copilot sea cada vez más autónomo. Imagina esto: eres un representante de ventas y tienes una llamada con un cliente. Dos semanas después, Copilot te recuerda que debes hacer un seguimiento o, mejor aún, envía automáticamente un correo en tu nombre porque ya está autorizado para hacerlo. Esto no solo aumenta la productividad, sino que también permite a los empleados enfocarse en tareas más estratégicas y menos repetitivas.

Yo creo que este es el camino a seguir. Como periodista y experto en tecnología, siempre he sido un defensor de las herramientas que nos hacen más eficientes, pero sin perder el control. Las IAs deben ser como buenos asistentes: deben saber cuándo intervenir y cuándo dar un paso atrás. Esto no solo hará que la tecnología sea más útil, sino también más segura y confiable.

La realidad detrás del miedo al desempleo

Muchos temen que esta ola de automatización conlleve a despidos masivos. Pero Singh, como muchos otros en Silicon Valley, tiene una visión más optimista. Cree que la tecnología puede hacer que los humanos sean más creativos y, eventualmente, crear nuevos puestos de trabajo. Recordemos su experiencia en Yahoo en 2008, cuando usaron IA para optimizar los contenidos en la página de inicio. Al principio, algunos temían por sus empleos, pero al final, la demanda de contenido aumentó tanto que necesitaron contratar a más editores.

En mi opinión, este es un buen ejemplo de cómo la tecnología no necesariamente destruye empleos, sino que transforma la forma en que trabajamos. El truco está en cómo utilizamos estas herramientas para mejorar nuestros procesos sin dejar de lado el valor humano.

Hacia una inteligencia artificial que sepa admitir sus límites

Estamos en una etapa temprana del desarrollo de IA, lo que Singh llama «el primer inning». Por ahora, la mayoría de las aplicaciones están centradas en mejorar la productividad, pero esto no significa que no haya mucho más por venir. A medida que las herramientas de IA se vuelvan más sofisticadas y humildes, podremos confiar más en ellas para realizar tareas importantes sin miedo a que se «inventen» las respuestas.

En WWWhatsnew.com seguiremos atentos a cómo evoluciona este campo, porque estamos convencidos de que, bien utilizadas, estas herramientas pueden transformar muchos sectores para mejor.