Las tecnologías de inteligencia artificial pueden ser de gran ayuda para la humanidad en muchos campos. Sin embargo, cuando estas herramientas caen en manos malintencionadas, pueden ser perjudiciales para la sociedad. Un ejemplo de esto es la generación de voces sintéticas con IA, que ya está siendo utilizada por estafadores para engañar a las personas.
¿Qué es un generador de voz IA?
Según Voicemod, una compañía española de software de efectos de sonido, la IA de voz es una voz sintética que imita el habla humana mediante el aprendizaje profundo y la inteligencia artificial. Estas voces se pueden utilizar mediante la conversión de texto a voz o voz a voz, tal como funciona nuestra colección de voces con IA.
Los estafadores están utilizando esta tecnología para engañar a las personas en lo que el FTC categoriza como «estafas de impostores», donde los delincuentes fingen ser un familiar o amigo para engañar a las víctimas, generalmente personas mayores, para que les entreguen su dinero. En 2022, se registraron más de 5,100 informes de estafas de impostores por teléfono, que sumaron pérdidas de $11 millones de dólares, según The Washington Post.
¿Cómo funciona la estafa del generador de voz IA?
Los estafadores utilizan la tecnología del generador de voz IA para imitar la voz de alguien, a menudo la de un niño, para engañar a un pariente haciéndole creer que el niño está siendo retenido por rescate. El estafador exige una suma de dinero a cambio de liberar al niño sano y salvo.
Es tan realista que una reportera de NBC News pudo engañar a sus compañeros de trabajo haciéndoles creer que era ella quien hablaba gracias al generador de voz IA. Además, hay otras variaciones de esta estafa que utilizan la misma tecnología. Por ejemplo, una pareja de Canadá perdió $21,000 después de recibir una llamada telefónica falsa de un «abogado» que fingía representar a su hijo después de que supuestamente matara al hijo de un diplomático en un accidente automovilístico, y necesitaba dinero para «gastos legales» mientras su hijo «estaba en la cárcel».
¿Cómo evitar caer en la estafa del generador de voz IA?
La mejor defensa contra esta estafa es estar consciente de ella y comprender cómo funciona. Si recibe una llamada de este tipo, llame o hable en video con el niño o la «víctima» que supuestamente ha sido secuestrado. Aunque parezca contraproducente hacer esto en lugar de contactar a las autoridades o darle al estafador el dinero del rescate, hablar con el supuesto rehén puede destruir la ilusión del estafador. Si realmente se trata de una estafa, se escuchará o verá a la «víctima» en la otra línea, yéndose sobre su día normal.
Desafortunadamente, no hay mucho más que se pueda hacer para evitar ser víctima de esta estafa, ya que no hay tecnología disponible al público que pueda detectar la actividad de la IA en situaciones de este tipo.
Tenéis más información en lifehacker.