Google pretende que las IA tengan un gigante botón rojo para poder detenerlas

red button ai

La gente de Google DeepMind, la firma de Inteligencia Artificial, junto a especialistas en el área provenientes de la Universidad de Oxford, andan desarrollando una solución para contar con un “botón rojo” de emergencia para detener a una IA si es que se hace inminente un ataque suyo hacia el escenario o al humano que pudiera estarle supervisando.

Claro, al llegar a ese punto de inteligencia, la IA podría simplemente deshabilitar la funcionalidad de dicho botón para que sea inútil el oprimirlo, pero la solución presentada considera esos detalles para evitar que la IA aprenda a prevenir su detención. Todo es definido y explicado a fondo en un artículo científico disponible en este enlace (PDF).

La idea es disponer de un framework que permite a un operador humano interruptir a una Inteligencia Artificial de forma segura, una complicada tarea que requiere considerar el esquema de tareas de estas últimas para evitar que puedan autodesarrollar métodos para saltarse los controles.

En fin, más intentos para minimizar los potenciales daños de una Inteligencia Artificial fuera de control, un tema que preocupa a mentes como la de Stephen Hawking, Elon Musk y otros brillantes personajes de la Ciencia y la Tecnología quienes han invertido hasta en una organización, FutureofLife, enfocada en la preservación de la especie humana evitando su autodestrucción por una mala gestión de las IA creadas.

Imagen: MyInstants!

Juan David Quiñónez

Estadístico. Amante de las nuevas tecnologías, la ciencia, el mundo académico y las aplicaciones de las anteriores temáticas en la red. Escribe en wwwhatsnew.com desde finales del 2011.