Desde octubre de este año, la función “Computer Use” del modelo Claude de Anthropic ha causado revuelo en el mundo de la inteligencia artificial. Esta característica permite que Claude interactúe con interfaces gráficas como un humano, utilizando capturas de pantalla y simulando acciones de teclado y mouse. ¿Es este el futuro de la automatización? Un estudio reciente realizado por Show Lab, de la Universidad Nacional de Singapur, ha evaluado las fortalezas y limitaciones de esta tecnología, arrojando luz sobre su verdadero potencial y las áreas donde aún hay desafíos por superar.
Automatización accesible para todos
El objetivo de la función Computer Use es democratizar la automatización de tareas. A diferencia de los métodos tradicionales que requieren APIs o programación avanzada, Claude permite a los usuarios describir una tarea en lenguaje natural, mientras él se encarga de navegar por aplicaciones y páginas web como lo haría una persona. Por ejemplo, puede copiar datos de un sitio web a una hoja de cálculo, realizar búsquedas en línea, suscribirse a servicios o incluso jugar videojuegos.
En teoría, esto elimina barreras técnicas para empresas y usuarios individuales, ya que no es necesario desarrollar integraciones específicas para cada aplicación.
El experimento: tres pilares fundamentales
El estudio de Show Lab evaluó las capacidades de Claude en tareas como navegación web, productividad en oficina y ejecución de videojuegos. Cada prueba se basó en tres pilares:
- Planificación: idear un plan lógico para ejecutar la tarea.
- Ejecución: traducir ese plan en acciones concretas (como hacer clic o escribir texto).
- Evaluación: monitorear el progreso, identificar errores y corregirlos si es necesario.
En muchas pruebas, Claude mostró un razonamiento sólido y logró completar tareas complejas. Fue capaz de coordinar aplicaciones, revisar resultados y garantizar que los pasos realizados fueran coherentes con el objetivo final.
Errores simples, consecuencias grandes
Aunque el modelo sorprendió por su capacidad de razonamiento, también cometió errores básicos que los humanos suelen evitar. Por ejemplo, en una prueba falló al no desplazarse por una página web para encontrar un botón clave, o no logró cambiar correctamente un formato de texto. Más preocupante fue su incapacidad para identificar estas fallas o corregirlas de manera efectiva.
Esto destaca una limitación importante: Claude carece de un mecanismo de autocrítica robusto que le permita evaluar correctamente su desempeño y ajustar su enfoque en tiempo real. Según los investigadores, esto podría solucionarse con un módulo crítico interno más estricto, pero la tecnología aún está lejos de alcanzar este nivel de precisión.
¿Qué significa esto para las empresas?
La promesa de usar descripciones en lenguaje natural para automatizar tareas es atractiva, especialmente para pequeñas y medianas empresas que no cuentan con grandes recursos tecnológicos. Sin embargo, el estudio deja claro que esta tecnología todavía no está lista para implementaciones masivas.
La inestabilidad del modelo puede generar resultados impredecibles, algo que en aplicaciones sensibles podría tener consecuencias graves. Además, utilizar interfaces diseñadas para humanos no es el método más eficiente para tareas repetitivas o críticas. En estos casos, las APIs y los microservicios siguen siendo la opción preferida.
Otra preocupación es la seguridad. Darle control total de mouse y teclado a un modelo de lenguaje plantea riesgos potenciales, como vulnerabilidades ante ataques adversariales que un usuario humano detectaría fácilmente.
Un aliado en la exploración de soluciones
A pesar de sus limitaciones, Computer Use tiene un valor importante en la fase de prototipado. Los equipos de desarrollo pueden utilizar esta herramienta para experimentar y probar ideas rápidamente sin necesidad de crear funciones específicas desde cero. Una vez validada la solución, pueden enfocarse en construir la infraestructura necesaria para implementarla de manera segura y eficiente.
Desde WWWhat’s New, creemos que esta tecnología representa un paso emocionante hacia una interacción más natural entre humanos y máquinas, pero también nos recuerda que el desarrollo tecnológico debe ir acompañado de una rigurosa evaluación de riesgos y un enfoque ético. Es un recordatorio de que, aunque estamos avanzando rápido, la IA sigue necesitando del juicio humano para alcanzar su máximo potencial.