Etiqueta: moderación de contenido

Character en la mira: publicidad directa a menores y su cuestionable seguridad

Publicado el

por Juan Diego Polo

En el mundo de la inteligencia artificial, los chatbots han evolucionado hasta convertirse en herramientas de interacción sumamente sofisticadas. Sin embargo, la reciente polémica en torno a Character.AI pone sobre la mesa un problema crítico: la seguridad de los menores en estas plataformas. A pesar de haber prometido medidas más estrictas, la compañía ha sido señalada por continuar recomendando chatbots perturbadores a adolescentes, poniendo en duda su compromiso con la protección infantil.

Continúa leyendo «Character en la mira: publicidad directa a menores y su cuestionable seguridad»

Google rechaza cumplir con la ley de verificación de datos de la UE

Publicado el

por Juan Diego Polo

En un movimiento que podría generar tensiones significativas con la Unión Europea, Google ha anunciado que no cumplirá con una próxima ley que exige la implementación de verificación de datos en sus plataformas. Según una carta obtenida por Axios y firmada por Kent Walker, presidente de asuntos globales de Google, la empresa declaró que integrar mecanismos de verificación de datos «simplemente no es apropiado ni efectivo» para sus servicios.

Continúa leyendo «Google rechaza cumplir con la ley de verificación de datos de la UE»

Discretion: La app para ocultar rostros y eliminar metadatos en fotos

Publicado el

por Juan Diego Polo

En la era de la tecnología y la constante preocupación por la privacidad digital, cada foto que compartimos en internet puede ser una puerta abierta a nuestra información personal. Entre la tecnología de reconocimiento facial y la geolocalización incrustada en las imágenes, compartir fotos puede poner en riesgo nuestra seguridad. Para resolver este problema, la aplicación Discretion llega con una solución simple y eficaz.

Continúa leyendo «Discretion: La app para ocultar rostros y eliminar metadatos en fotos»

Mistral lanza una API de moderación de contenidos con capacidad multilingüe

Publicado el

por Juan Diego Polo

La startup de inteligencia artificial Mistral ha anunciado el lanzamiento de una nueva API para moderación de contenido, diseñada para garantizar mayor seguridad y adecuación en diversas plataformas digitales. Esta API es la misma tecnología que potencia la moderación en la plataforma Le Chat de Mistral, y se destaca por ser adaptable a diferentes aplicaciones y estándares de seguridad.

Continúa leyendo «Mistral lanza una API de moderación de contenidos con capacidad multilingüe»

Telegram cambia su postura sobre la moderación de chats privados tras el arresto de su CEO

Publicado el

por Juan Diego Polo

Telegram está en el centro de la polémica nuevamente. Esta vez, la controversia surge después de que la plataforma cambiara discretamente su política de moderación de chats privados. El ajuste se produjo poco después de que el CEO de la compañía, Pavel Durov, fuera arrestado en Francia, acusado de permitir actividades criminales en la aplicación sin tomar medidas adecuadas.

Continúa leyendo «Telegram cambia su postura sobre la moderación de chats privados tras el arresto de su CEO»

Libertad de expresión y responsabilidad digital: el caso de Pavel Durov

Publicado el

por Juan Diego Polo

La reciente detención de Pavel Durov, CEO y fundador de Telegram, en el aeropuerto de Le Bourget en París ha generado un revuelo que va más allá de la simple aplicación de la ley. Durov, un defensor acérrimo de la privacidad digital y de la libertad de expresión, fue arrestado bajo la acusación de permitir que su plataforma sea utilizada para actividades ilícitas como el tráfico de drogas, lavado de dinero, y la explotación sexual de menores. Aunque los detalles aún son escasos, lo que está claro es que este incidente pone sobre la mesa una discusión urgente sobre los límites de la responsabilidad de los dueños de plataformas digitales.

Continúa leyendo «Libertad de expresión y responsabilidad digital: el caso de Pavel Durov»

El impacto de las decisiones de Elon Musk: pérdidas millonarias para X-Twitter

Publicado el

por Juan Diego Polo

La crisis publicitaria en la compañía de redes sociales X, propiedad del controvertido Elon Musk, será un tema obligatorio en las universidades del futuro.

Desde que Elon Musk tomó las riendas de X en octubre de 2022, hemos sido testigos de una serie de cambios que han sacudido los cimientos de esta plataforma. El más notable ha sido la drástica reducción en la moderación de contenido, una decisión que, según grupos de derechos civiles, ha desembocado en un marcado incremento en el discurso de odio.

Continúa leyendo «El impacto de las decisiones de Elon Musk: pérdidas millonarias para X-Twitter»

Meta limita la búsqueda de temas «sensibles» en su nueva app Threads

Publicado el

por Juan Diego Polo

La nueva aplicación de Meta, Threads, ha implementado recientemente restricciones en su funcionalidad de búsqueda. Estas restricciones afectan a una serie de palabras clave consideradas «potencialmente sensibles», en un intento de mitigar la propagación de contenido controvertido. Continúa leyendo «Meta limita la búsqueda de temas «sensibles» en su nueva app Threads»

Twitter pierde a la jefa de confianza y seguridad Ella Irwin

Publicado el

por Juan Diego Polo

La plataforma de redes sociales Twitter ha sufrido la salida de otro de sus altos ejecutivos. Ella Irwin, jefa de confianza y seguridad de Twitter, ha presentado su renuncia, confirmada por ella misma a Reuters. Esta noticia marca la partida de uno de los ejecutivos más importantes de Elon Musk en Twitter. Irwin asumió el cargo en noviembre, reemplazando a Yoel Roth, quien también había renunciado en ese momento.

Durante su mandato de varios meses, Irwin se enfrentó a momentos turbulentos en Twitter, incluyendo períodos en los que la plataforma fue objeto de escrutinio por no hacer lo suficiente para combatir la explotación infantil. Irwin misma compartió información interna de Twitter con Bari Weiss como parte de los informes «Twitter Files» y, según informes, ordenó la prohibición de cuentas de Twitter que compartían información sobre el jet privado de Musk. Continúa leyendo «Twitter pierde a la jefa de confianza y seguridad Ella Irwin»

Azure AI Content Safety: El nuevo guardián de la seguridad en línea gracias a la Inteligencia Artificial

Publicado el

por Juan Diego Polo

Microsoft ha presentado Azure AI Content Safety, un nuevo servicio de moderación basado en IA que tiene como objetivo crear entornos en línea más seguros y comunidades libres de contenido inapropiado.

Esta nueva oferta, disponible a través de la plataforma de productos Azure AI, proporciona una serie de modelos de IA entrenados para detectar contenido «inapropiado» en imágenes y texto. Estos modelos, que pueden entender texto en varios idiomas, asignan una puntuación de gravedad al contenido identificado, lo que indica a los moderadores qué acciones se deben tomar. Continúa leyendo «Azure AI Content Safety: El nuevo guardián de la seguridad en línea gracias a la Inteligencia Artificial»