Twitter ha generado recientemente una gran cantidad de atención mediática con su decisión de hacer público el código fuente de su algoritmo de recomendaciones. Si bien, en principio, la liberación del código fuente de un algoritmo por parte de una empresa es algo que podría ser aplaudido por la comunidad tecnológica, la verdad es que, en el caso de Twitter, esta maniobra no parece estar en línea con el compromiso real de la empresa con la transparencia y la rendición de cuentas.
Open Source como distracción
El pasado viernes, Twitter publicó el código fuente de su algoritmo de recomendaciones en GitHub, y lo denominó como una iniciativa de «open source». Para los expertos en tecnología y transparencia, este tipo de iniciativas son bienvenidas, pero en este caso particular, la acción de Twitter parece una cortina de humo para desviar la atención de los movimientos recientes de la empresa lejos de la transparencia.
Hace algunas semanas, Twitter anunció en silencio que cerraría la versión gratuita de su API, una herramienta en la que investigadores de todo el mundo habían confiado durante años para llevar a cabo investigaciones sobre contenido dañino, desinformación, salud pública, monitoreo electoral, comportamiento político y mucho más. La herramienta que la está reemplazando ahora costará a los investigadores y desarrolladores entre $42,000 y $210,000 al mes para utilizarla. Esta decisión de Twitter llamó la atención de legisladores y organizaciones de la sociedad civil, que la condenaron.
Una falsa apertura
La liberación del código fuente de su algoritmo de recomendaciones no es más que un ejemplo de lavado de transparencia en la industria tecnológica. En 2020, TikTok también utilizó las palabras «código fuente» para deslumbrar a los reguladores de EE. UU. y Europa que exigían más transparencia en la forma en que funciona la plataforma. Fue la primera plataforma en anunciar la apertura de «Centros de Transparencia» físicos, supuestamente diseñados para «permitir que los expertos examinen y verifiquen las prácticas de TikTok».
La necesidad de una verdadera rendición de cuentas
Si Twitter realmente quisiera llevar la rendición de cuentas a su algoritmo, debería hacerlo tanto transparente como escrutable. Por ejemplo, podría crear herramientas que simulen las salidas de un sistema algorítmico basadas en una serie de entradas. Esto permitiría a los investigadores realizar experimentos controlados para probar cómo los sistemas de recomendación clasificarían el contenido real. Estas herramientas deberían estar disponibles para los investigadores que trabajan en el interés público (y, por supuesto, que pueden demostrar cómo sus métodos respetan la privacidad de las personas) por poco o ningún costo.
Afortunadamente, hay buenas noticias en este frente: la Ley de Servicios Digitales de Europa, que entrará en vigor para las plataformas en línea muy grandes a partir de este verano, obligará a las plataformas a realizar auditorías de terceros en sus algoritmos para asegurarse de que no están en riesgo de dañar a las personas. El tipo de datos que se requerirán para dichas auditorías va mucho más allá de lo que Twitter, TikTok o cualquier otra plataforma proporciona actualmente.
Vía Wired