Etiqueta: alucinaciones en IA

Cómo reducir «alucinaciones» en IA usando AWS

Publicado el

por Juan Diego Polo

En el marco del evento AWS re:Invent 2024, Amazon Web Services (AWS) presentó una serie de herramientas diseñadas para abordar algunos de los mayores desafíos en la implementación de inteligencia artificial generativa. Entre las novedades destaca Automated Reasoning checks, un servicio innovador para mitigar el problema de las «alucinaciones» en los modelos de IA, y Model Distillation, una técnica que busca optimizar el uso de modelos al transferir conocimientos entre ellos.

Continúa leyendo «Cómo reducir «alucinaciones» en IA usando AWS»

Problemas de “alucinación” en Whisper: ¿un obstáculo para su adopción en sectores críticos?

Publicado el

por Juan Diego Polo

La tecnología de transcripción Whisper de OpenAI ha generado grandes expectativas en el mundo de la inteligencia artificial. Aclamada por su capacidad para convertir audio en texto, Whisper prometía mejorar la precisión y rapidez en transcripciones automáticas, convirtiéndose en una herramienta ideal para diferentes sectores, desde la academia hasta el ámbito médico. Sin embargo, recientemente, investigadores han alertado sobre un problema preocupante: el modelo tiene una tendencia significativa a «alucinar», o generar contenido ficticio que no estaba en el audio original. Esto no solo afecta la fiabilidad de Whisper sino también su viabilidad en contextos de alto riesgo, como hospitales y tribunales.

Continúa leyendo «Problemas de “alucinación” en Whisper: ¿un obstáculo para su adopción en sectores críticos?»