TikTok tiene la intención de aplicar la moderación automática en aquellos vídeos en los que se ofrezcan determinados contenidos específicos en los Estados Unidos y Canadá a partir de las próximas semanas, donde la moderación humana quedará relegada a las apelaciones que realicen los usuarios en caso de considerar que la eliminación de estos vídeos haya podido ser erróneas.
La conocida plataforma de vídeos cortos llevará la moderación automática a vídeos que tengan relación con la violencia, desnudez, actividades ilegales, sexo y violaciones de su política de seguridad sobre los menores.
Los moderadores humanos se centrarán en vídeos que necesiten especial atención
De esta manera, los moderadores no accederán a un alto volumen de vídeos que moderar, sin embargo, sí podrán dedicar más tiempo a aquellos vídeos que requieran una revisión en mayor profundidad, dada la complejidad de los mismos, para determinar si deben estar de vuelta o estar eliminados de forma definitiva.
Los moderadores humanos también seguirán presentes para los reportes que realice la comunidad y la moderación de aquellos vídeos que los sistemas automáticos hayan marcado para su revisión humana.
En este punto, vemos que TikTok no quiere prescindir de la moderación humana, pero si aliviarles el trabajo para que puedan dedicar el mayor tiempo posible en aquellos vídeos donde la automatización no llegue a ser lo suficientemente eficaz.
En este sentido, los sistemas de moderación automáticos no llegan a ser perfectos, llegando a situaciones donde pueda llegar a eliminarse vídeos de forma errónea, de ahí la necesidad a que existan mecanismos de apelaciones, aunque TikTok quiere aplicar la moderación automática a las mencionadas categorías dado que trabajan mejor con las mismas, con una tasa de error mínimas, en torno al 5%.
Para llegar a esta conclusión, la plataforma ya había realizado las pertinentes pruebas de la tecnología de moderación automática en una serie de mercados, como Brasil y Pakistán, para comenzar ahora a funcionar de manera estable en los Estados Unidos y Canadá.
Ya será cuestión de que, con el tiempo, la plataforma pueda llegar a extender la moderación automática de los vídeos bajo las categorías mencionadas en otros territorios. En cualquier caso, este movimiento se realiza en aras de la transparencia, dando los mecanismos necesarios para mantener la plataforma libre de vídeos no permitidos por sus normas, aliviando la carga de trabajo a los moderadores, que podrán centrarse en cuestiones o vídeos más específicos.
Más información: TikTok