La inteligencia artificial (IA) ha transformado múltiples sectores, desde la medicina hasta la automoción. Sin embargo, su impacto en la ciberseguridad es un tema que genera tanto entusiasmo como preocupación. Recientemente, se ha descubierto una herramienta llamada FraudGPT que promete cambiar el panorama de la ciberseguridad.
¿Qué es FraudGPT?
FraudGPT es un producto vendido en la dark web y Telegram que opera de manera similar a ChatGPT, pero con un enfoque en facilitar ciberataques. Fue identificado por primera vez por el equipo de investigación de amenazas de Netenrich en julio de 2023. A diferencia de ChatGPT, FraudGPT no tiene controles y limitaciones incorporados que prevengan solicitudes inapropiadas. Se actualiza cada una o dos semanas y tiene diferentes modelos de IA en su núcleo.
El vendedor de FraudGPT ha sido identificado como alguien que anteriormente ofrecía servicios de hacker por encargo. Se ha vinculado a este individuo con otra herramienta similar llamada WormGPT. Según los investigadores, los algoritmos de esta herramienta fueron entrenados con grandes cantidades de datos de malware.
Aunque no es tan avanzado como las herramientas utilizadas por equipos de ataque de nivel estatal, FraudGPT es accesible y tiene el potencial de entrenar a la próxima generación de atacantes. Con su modelo de suscripción, en pocos meses podría tener más usuarios que los ejércitos cibernéticos más avanzados de ciertos estados-nación.
La aparición de herramientas como FraudGPT subraya la necesidad de innovación continua en defensas impulsadas por IA para contrarrestar el uso hostil de la IA. Dada la proliferación de chatbots basados en IA generativa, es esencial comprender sus debilidades y establecer defensas adecuadas.
Cinco formas en que FraudGPT anticipa el futuro de la IA armada
- Ingeniería social y ataques de phishing automatizados: FraudGPT puede apoyar escenarios de pretexto convincentes para engañar a las víctimas.
- Malware y exploits generados por IA: Puede generar scripts maliciosos adaptados a redes específicas de víctimas.
- Descubrimiento automático de recursos de ciberdelincuencia: La IA puede acelerar la investigación manual para encontrar nuevas vulnerabilidades.
- Evasión impulsada por IA de defensas: Las herramientas avanzadas utilizarán IA generativa para evadir sistemas de detección.
- Dificultad de detección y atribución: Las futuras herramientas de IA armada reducirán la detección y atribución al punto de anonimato.
La aparición de FraudGPT marca el comienzo de una nueva era en la ciberseguridad. Si bien las herramientas como FraudGPT pueden ser preocupantes, también nos recuerdan la importancia de la innovación y adaptación constantes en el mundo de la ciberseguridad. Es esencial que las organizaciones y los individuos estén siempre un paso adelante, utilizando la misma tecnología para protegerse contra las amenazas emergentes.
Más información en hackernoon.com.