La startup Pangram ha lanzado dos detectores de contenido generado con inteligencia artificial: Image 1.0, para imágenes fijas, e Image Flash 1.0, una versión más rápida que analiza vídeo fotograma a fotograma. Image 1.0 incluso genera un mapa de calor que señala qué zonas de una foto parecen sintéticas. La compañía presume de aciertos casi perfectos, pero una parte importante de esas cifras procede de pruebas diseñadas por ella misma. Lo cuenta TheNextWeb. Continúa leyendo «Pangram lanza detectores de imágenes y vídeos hechos con IA, con cifras casi perfectas que conviene mirar con lupa»
Etiqueta: detección de IA
¿Cómo funcionan los detectores de contenido generado por inteligencia artificial?
La proliferación de herramientas de inteligencia artificial ha provocado que cada vez más personas recurran a ellas para generar contenido escrito, ya sea por motivos profesionales, educativos o creativos. Este auge ha puesto en el centro del debate la necesidad de diferenciar lo creado por humanos de lo producido por máquinas. Para ello, han surgido detectores de contenido generado por IA que intentan cumplir esta tarea, aunque no sin dificultades.
En el caso del texto, estos sistemas suelen buscar lo que se conoce como «patrones característicos» del lenguaje artificial. Algunos indicios comunes son la excesiva coherencia o la previsibilidad en las frases, el uso reiterado de ciertas palabras que se han vuelto populares en contenidos de IA (como «explora», «profundiza» o «destaca») y estructuras gramaticales demasiado pulidas.
El razonamiento detrás de estos detectores es simple: los modelos de lenguaje como ChatGPT tienden a elegir la opción más probable en cada palabra. Esto genera un estilo uniforme, con menos errores y con transiciones que podrían parecer más artificiales que humanas. Sin embargo, esta línea divisoria se está volviendo cada vez más difusa. A medida que los modelos se perfeccionan y los usuarios humanos adoptan ciertos giros propios del estilo generado por IA, los detectores se ven en apuros para trazar límites claros. Continúa leyendo «¿Cómo funcionan los detectores de contenido generado por inteligencia artificial?»
Pinterest declara la guerra al «contenido basura» generado por IA: qué cambia en tu feed y cómo controlarlo
Imagina que entras a Pinterest buscando ideas auténticas para decorar tu sala, preparar una receta especial o inspirarte con arte hecho a mano, pero lo que encuentras son imágenes impecables, casi demasiado perfectas… tanto que parecen creadas por una máquina. Eso es exactamente lo que está empezando a molestar a muchos usuarios de la plataforma. Pinterest ha escuchado las quejas y ya está tomando cartas en el asunto.
El impacto de las reseñas generadas por inteligencia artificial en la confianza del sector salud
En la actualidad, las reseñas online son la brújula que guía a los pacientes en la elección de servicios de salud. Desde cirugías plásticas hasta tratamientos dentales, plataformas como Google Reviews y Yelp juegan un papel crucial en la percepción de la calidad, profesionalismo y confiabilidad de las clínicas médicas. Sin embargo, un reciente estudio realizado por Originality.ai ha revelado una preocupante tendencia: un porcentaje significativo de estas reseñas podrían estar generadas por inteligencia artificial (IA).
El sorprendente auge de los contenidos generados por IA en Wikipedia: ¿está en juego la calidad de la información?
Si has estado al tanto de las últimas noticias sobre inteligencia artificial, seguro te habrás topado con el fenómeno de los contenidos generados por IA. No es un misterio que cada vez más artículos en Wikipedia están escritos, total o parcialmente, por estas sofisticadas máquinas. Hoy te cuento un poco más sobre este tema fascinante.
Grammarly lanza «Authorship», su nueva herramienta para detectar contenido generado por IA
En los últimos años, la línea entre lo que es creado por humanos y lo que es generado por inteligencia artificial (IA) se ha vuelto cada vez más difusa. Para muchos, especialmente en el ámbito educativo, esta confusión ha llevado a malentendidos y desconfianza. Y es aquí donde Grammarly ha decidido intervenir con su nueva herramienta: Grammarly Authorship.
OpenAI trabaja en herramienta para identificar si una imagen ha sido creada con su IA
No es fácil saber si una imagen ha sido creada por una IA, pero uno podría pensar que la plataforma que genera las imágenes sí podrían tenerlo más fácil a la hora de determinar si una foto ha sido creada por ellos o no.
Es en eso en lo que están trabajando desde OpenAI con el generador DALL-E.
Para detectar si una imagen, audio o documento está creado con Inteligencia Artificial
La distinción entre contenido genuino y generado por inteligencia artificial (IA) se ha vuelto cada vez más difusa. La proliferación de tecnologías de IA capaces de crear imágenes, audio y vídeos indistinguibles de los realizados por humanos, ha generado una necesidad imperiosa de herramientas que puedan verificar la autenticidad del contenido digital. Una solución emergente en este campo es «AI or Not», un servicio web diseñado para detectar contenidos generados por IA y autenticar su origen, aunque en 2023 ya os dije que el tema es complicado.