Meta, la compañía matriz de Facebook, Instagram y WhatsApp, ha revelado una serie de nuevas características y actualizaciones destinadas a combatir la extorsión sexual y el abuso de imágenes íntimas en sus plataformas. Estos esfuerzos forman parte de su compromiso continuo de crear un entorno más seguro para los usuarios, especialmente para los más jóvenes, que a menudo son vulnerables a estas formas de explotación en línea.
Meta está probando nuevas funciones para proteger a los jóvenes de la extorsión sexual y el abuso de imágenes íntimas. Estas características incluyen medidas más estrictas para evitar que los potenciales estafadores y criminales se pongan en contacto con los adolescentes. La compañía también está explorando formas de ayudar a los usuarios a identificar posibles estafas de extorsión sexual, alentarlos a reportar cualquier actividad sospechosa y empoderarlos para que se nieguen a cualquier solicitud que los haga sentir incómodos.
Compartiendo información con otras compañías tecnológicas
Meta comenta que se ha asociado con otras compañías tecnológicas a través del programa Lantern, dirigido por la Tech Coalition. A través de esta iniciativa, las empresas comparten información sobre cuentas y comportamientos que violan sus políticas de seguridad infantil. Meta ha comenzado a compartir señales específicas de extorsión sexual, lo que ayuda a interrumpir estas actividades criminales en todo Internet, no solo en sus propias plataformas.
Presentando la función de protección de nudidad en los mensajes directos
Meta pronto comenzará a probar una nueva función de «protección de nudidad» en los mensajes directos de Instagram. Esta función detecta y difumina las imágenes que contienen desnudos, advirtiendo a los usuarios que piensen dos veces antes de enviar este tipo de contenido. Está diseñada no solo para proteger a los usuarios de recibir desnudos no deseados, sino también para prevenir que los estafadores utilicen imágenes íntimas para engañar a las personas y obtener imágenes sensibles a cambio.
La «protección de nudidad» estará activada de forma predeterminada para adolescentes menores de 18 años en todo el mundo, y se alentará a los adultos a activarla a través de una notificación. Cuando la función esté activada, las personas que envíen imágenes de desnudos verán un recordatorio para que sean cautelosos y les informará que pueden eliminar las fotos si cambian de opinión.
Del mismo modo, si alguien intenta reenviar una imagen íntima que ha recibido, verá un mensaje alentándolo a reconsiderar su acción. Cuando un usuario reciba una imagen de desnudo, se difuminará automáticamente bajo una pantalla de advertencia, dándole la opción de verla o no. También se le animará a no sentirse presionado a responder y se le ofrecerá la opción de bloquear al remitente e informar sobre el chat.
Tanto los remitentes como los destinatarios de estas imágenes serán dirigidos a consejos de seguridad, desarrollados con la orientación de expertos, sobre los posibles riesgos involucrados en el intercambio de imágenes íntimas. Estos consejos incluyen recordatorios sobre la posibilidad de que las imágenes sean capturadas o reenviadas sin su consentimiento, que la relación con la otra persona puede cambiar en el futuro, y la importancia de verificar cuidadosamente la identidad del otro usuario. Los consejos también incluyen enlaces a recursos útiles, como el Centro de Seguridad de Meta, líneas de apoyo, StopNCII.org para mayores de 18 años y Take It Down para menores de 18 años.
Tecnología avanzada para detectar desnudos
La función de «protección de nudidad» utiliza un aprendizaje automático en el dispositivo para analizar si una imagen enviada en un mensaje directo de Instagram contiene desnudos. Dado que el análisis se realiza directamente en el dispositivo, la función será efectiva incluso en chats con cifrado de extremo a extremo, donde Meta no tendría acceso a las imágenes a menos que el usuario elija reportarlas.
Opiniones de expertos y colaboración con organizaciones
John Shehan, vicepresidente senior del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), ha expresado su apoyo a las nuevas medidas de seguridad de Meta. «Las empresas tienen la responsabilidad de garantizar la protección de los menores que utilizan sus plataformas», afirmó Shehan. «Las medidas de seguridad propuestas por Meta dentro de su entorno cifrado son alentadoras. Esperamos que estas nuevas medidas aumenten la cantidad de denuncias por parte de los menores y reduzcan la circulación de explotación infantil en línea».
El Dr. Sameer Hinduja, codirector del Centro de Investigación sobre Ciberacoso y profesor asociado del Centro Berkman Klein de Harvard, también elogió la función: «Como educador, padre e investigador del comportamiento en línea de los adolescentes, aplaudo la nueva función de Meta que aborda el intercambio de contenido íntimo de una manera reflexiva y apropiada. Reduce la exposición a imágenes potencialmente traumáticas, introduce disonancia cognitiva para quienes consideran compartir contenido íntimo y educa a los usuarios sobre las posibles consecuencias negativas».
Medidas estrictas contra cuentas de extorsión sexual
Meta ha implementado medidas estrictas para hacer frente a las cuentas involucradas en extorsión sexual. Cuando se identifica una cuenta que participa en estas actividades, la compañía toma medidas inmediatas, incluyendo la eliminación de la cuenta, la prevención de la creación de nuevas cuentas y, cuando corresponda, la notificación al NCMEC y a las autoridades. Los equipos de expertos de Meta también trabajan para investigar y desmantelar redes de criminales, deshabilitar sus cuentas y reportarlas a las autoridades correspondientes.
Identificando y bloqueando cuentas sospechosas
Meta está desarrollando tecnología para identificar cuentas que puedan estar involucradas en extorsión sexual basándose en una variedad de señales que indican un comportamiento sospechoso. Si bien estas señales no necesariamente indican una violación de las reglas de la plataforma, Meta está tomando medidas preventivas para evitar que estas cuentas se conecten con usuarios adolescentes. Esto se suma al trabajo existente de la compañía para prevenir que otras cuentas sospechosas se pongan en contacto con menores.
Los mensajes enviados por cuentas potencialmente involucradas en extorsión sexual serán dirigidos automáticamente a la carpeta de «solicitudes filtradas», asegurando que los usuarios no reciban notificaciones y no tengan que ver estos mensajes no deseados. Para aquellos que ya estén en comunicación con cuentas sospechosas, Meta muestra notificaciones de seguridad que los alientan a reportar cualquier amenaza de compartir imágenes privadas y les recuerda que pueden negarse a cualquier solicitud que los haga sentir incómodos.
En el caso de los adolescentes, Meta está implementando medidas adicionales, incluyendo la restricción de que adultos desconocidos inicien conversaciones por mensaje directo con ellos. Además, la compañía ha anunciado ajustes más estrictos para adolescentes menores de 16 años (y menores de 18 años en ciertos países), lo que significa que solo pueden recibir mensajes de personas con las que ya están conectados. Ahora, Meta también está probando la eliminación del botón «Mensaje» en los perfiles de adolescentes para cuentas sospechosas, incluso si ya están conectados. También están trabajando para ocultar a los adolescentes de estas cuentas en las listas de seguidores, seguidos y «me gusta», y haciendo que sea más difícil que estas cuentas encuentren a los adolescentes en los resultados de búsqueda.
Recursos y apoyo para usuarios afectados
Meta está probando mensajes emergentes dirigidos a usuarios que puedan haber interactuado con cuentas eliminadas por extorsión sexual. Estos mensajes proporcionarán enlaces a recursos respaldados por expertos, incluyendo su «Stop Sextortion Hub», líneas de apoyo, la opción de contactar a un amigo, StopNCII.org para mayores de 18 años y Take It Down para menores de edad.
La compañía también está integrando nuevas líneas de ayuda para la seguridad infantil de todo el mundo en sus flujos de reportes. Esto significa que cuando los adolescentes reporten problemas relevantes, como desnudos, amenazas de compartir imágenes privadas o explotación sexual, serán dirigidos a líneas de ayuda locales para niños y adolescentes cuando estén disponibles.