Parece un tema salido de una novela de ciencia ficción, pero es real, hay una IA que está siendo entrenada para ser experta en negociación, engaño y previsión.
Se trata de un producto que sale de Meta, empresa matriz de Facebook. Es un modelo de inteligencia artificial al que han llamado Cicerón, y ya tiene ciertas habilidades de negociación, engaño y previsión, lo suficiente para jugar en Diplomacy, un juego de estrategia complejo y despiadado donde hay que forzar alianzas, elaborar planes de batalla y negociar para conquistar Europa.
Aunque sea difícil entender el motivo por el cual alguien puede estar enseñando ese tipo de cosas a un programa, se trata de un buen ejercicio para engañar a los humanos para que pensaran que era real. Indican que se encuentra a un nivel de sofisticación que pensaban que estaba a años de distancia.
Es capaz de retener información y pensar varios pasos por delante de los oponentes, y aunque de momento solo se usa para jugar, podría en el futuro ser usado para inventar estafas más inteligentes que extorsionen personas, crear falsificaciones convincentes o incluso caer en manos militares para diseñar planes de guerra.
No es la primera vez que Meta hace algo parecido. En 2019, Facebook creó una IA que podía engañar y vencer a los humanos en el póquer, un fin mucho más polémico que el de crear arte o chatear con humanos haciéndose pasar por una persona.
Noam Brown, científico del equipo de investigación de IA de Meta, dijo que están desarrollando el modelo para impresionar a la humanidad, para mostrar los límites y los avances de la inteligencia artificial, y creen que la Diplomacia es el tema que debe trabajarse ahora en el mundo de la IA.
Cómo se ha programado Cicero
Cicero, o Cicerón, ha sido entrenado con grandes cantidades de datos de texto de Internet y en aproximadamente 50,000 partidas de Diplomacy desde webDiplomacy.net, que incluían transcripciones de discusiones de juegos.
En las pruebas verificaron que a veces era más honesto y a veces más mentiroso, y que en algunas ocasiones omitía información para ganar.
Si todo va bien, esta IA se usará para crear personajes más creíbles en el metaverso, o asistentes personales más realistas.
Aunque los escenarios de pesadilla son evidentes, es mejor ser optimistas y pensar que lo que se hace en Hollywood se queda en Hollywood.
Tenéis los detalles del buen Cicerón en ai.facebook.com/research/cicero