Marca de agua en contenidos generados por IA: una respuesta a los desafíos de la seguridad en línea

En un anuncio reciente realizado por la Casa Blanca, las principales empresas de inteligencia artificial, incluidas Alphabet, OpenAI, Meta Platforms y Anthropic, se han comprometido voluntariamente a adoptar «medidas de seguridad» para el contenido generado por IA.

Aunque el mensaje no especificó los detalles exactos de estas medidas, el hecho de que empresas como Inflection, Amazon y Microsoft (socio de OpenAI) también estén involucradas es un indicador significativo del alcance de esta colaboración. Estas compañías líderes del sector se han comprometido a realizar pruebas exhaustivas antes de lanzar sistemas de IA y a compartir información sobre reducción de riesgos y ciberseguridad.

Continúa leyendo «Marca de agua en contenidos generados por IA: una respuesta a los desafíos de la seguridad en línea»

Crece la preocupación por desinformación en sitios web generados por IA, según estudio

En un análisis realizado por NewsGuard, se revela que las principales marcas globales están respaldando la expansión de los sitios web de noticias generados por inteligencia artificial (UAIN, por sus siglas en inglés) a través de la inversión en publicidad en línea.

Gran parte de las plataformas de publicidad digital colocan anuncios de forma automática en estos sitios, sin que las empresas elijan específicamente en qué sitios aparecerán. Como resultado, se financia la difusión de sitios de baja calidad y desinformación, sin salvaguardar la seguridad de las marcas ni la pulcritud del contenido. La mayoría de los anuncios son colocados por Google.

Continúa leyendo «Crece la preocupación por desinformación en sitios web generados por IA, según estudio»

Contaminación verbal: el impacto de los modelos de lenguaje en la generación de texto mediante IA

En un reciente artículo publicado en el servidor de preimpresión arXiv, un equipo de investigadores británicos y canadienses advierte sobre el impacto de los modelos de lenguaje en la generación de contaminación verbal.

Estos investigadores exploraron el efecto de las sucesivas generaciones de texto generado por ChatGPT, y llegaron a la conclusión de que esto podría socavar los propios datos en los que se entrenan dichos modelos.

Continúa leyendo «Contaminación verbal: el impacto de los modelos de lenguaje en la generación de texto mediante IA»

Detector de contenido creado por ChatGPT, una nueva alternativa

Las empresas y los editores de contenido en línea, así como los profesores, a menudo enfrentan el desafío de detectar contenido generado por inteligencia artificial. La capacidad de producir contenido con IA ha avanzado significativamente en los últimos meses, lo que hace cada vez más difícil distinguir el contenido generado por máquinas del creado por humanos.

Hay varios detectores de este tipo de contenido, que funcionan relativamente bien en inglés, y ahora hay una nueva propuesta en el mercado. Continúa leyendo «Detector de contenido creado por ChatGPT, una nueva alternativa»