En el mundo cada vez más digitalizado en el que vivimos, la ciberseguridad se ha convertido en un tema de suma importancia, especialmente en el ámbito militar. Josh Lospinoso, CEO y programador de la startup de ciberseguridad Shift5, ha dedicado gran parte de su carrera a crear herramientas de piratería para agencias como la Agencia de Seguridad Nacional y el Comando Cibernético de EE. UU.
En una reciente entrevista con The Associated Press, Lospinoso discutió el papel de la inteligencia artificial (IA) en la protección de las operaciones militares y las amenazas que enfrenta el ejército de Estados Unidos en el ámbito de la ciberseguridad.
Envenenamiento de datos: una amenaza latente
Una de las amenazas más importantes para las tecnologías habilitadas para IA es el envenenamiento de datos. Lospinoso explica que esto se refiere a la manipulación de los datos que las tecnologías de IA utilizan, lo cual puede afectar profundamente su funcionamiento.
Aunque el envenenamiento de datos no es algo común en la actualidad, Lospinoso hizo referencia a un caso famoso ocurrido en 2016, cuando Microsoft lanzó un chatbot de Twitter llamado Tay, que fue manipulado por usuarios maliciosos para generar contenido ofensivo.
La IA y la ciberseguridad
La IA desempeña un papel crucial en la ciberseguridad. Se utiliza en filtros de correo electrónico para detectar y separar el correo basura y los ataques de phishing. También se emplea en programas antivirus y software de detección de malware. Sin embargo, los hackers también utilizan la IA de manera ofensiva para intentar evadir estos sistemas de seguridad. Esto se conoce como IA contradictoria.
Lospinoso señala que los sistemas de software militar presentan importantes vulnerabilidades. Un informe de la Oficina de Responsabilidad Gubernamental de 2018 reveló que casi todos los sistemas de armas desarrollados recientemente tenían vulnerabilidades críticas. A pesar de esto, se está considerando la incorporación de IA en estos sistemas. Sin embargo, antes de hacerlo, es necesario abordar las vulnerabilidades existentes y garantizar la seguridad de los sistemas actuales.
El desafío de asegurar sistemas antiguos y nuevos
El CEO de Shift5 destaca el desafío de asegurar tanto los sistemas de armas antiguos como los nuevos. Muchos de estos sistemas tienen décadas de antigüedad y han sido adaptados con tecnologías digitales. Ahora están interconectados y se intercambia información constantemente. Esto los hace susceptibles a ataques cibernéticos.
Lospinoso enfatiza que, aunque a veces es más fácil construir una nueva plataforma, también es necesario proteger los componentes digitales de los sistemas existentes.
El futuro de la IA en la toma de decisiones militares
Lospinoso comparte su preocupación sobre la carrera apresurada hacia la implementación de productos de IA. Aunque detener la investigación de la IA sería perjudicial para la seguridad nacional, el ritmo acelerado de desarrollo podría resultar en productos inseguros y propensos a fallos. Sin embargo, se destaca que tanto la Casa Blanca como el Congreso están discutiendo estos temas para abordar adecuadamente los desafíos de seguridad.
En cuanto al uso de la IA en la toma de decisiones militares, Lospinoso descarta la idea de que los sistemas de armas letales estén listos para tomar decisiones por sí mismos. Aunque la IA está evolucionando rápidamente, todavía estamos lejos de confiar en algoritmos y datos para la selección de objetivos en situaciones críticas.
La entrevista completa a Josh Lospinoso se puede revisar (en inglés) en el portal de AP News.