Etiqueta: modelos de lenguaje

Las alucinaciones de la IA: un límite matemático, no un error de ingeniería

Publicado el

por Natalia Polo

OpenAI ha confirmado lo que muchos en la comunidad tecnológica ya sospechaban: las alucinaciones en los modelos de inteligencia artificial no son fallos de programación, sino una consecuencia inevitable de los principios matemáticos que los sustentan. En un estudio publicado el 4 de septiembre de 2025, investigadores de OpenAI, junto a un profesor de Georgia Tech, demostraron que incluso los modelos entrenados con datos perfectos están condenados a producir información falsa en determinadas circunstancias.

Este hallazgo, lejos de ser una simple observación técnica, cambia la forma en la que se debe gestionar, evaluar y aplicar la inteligencia artificial generativa en entornos reales. En lugar de aspirar a la perfección, las empresas y desarrolladores deben aprender a convivir con un margen de error inherente al funcionamiento de estos sistemas. Continúa leyendo «Las alucinaciones de la IA: un límite matemático, no un error de ingeniería»

GPT-5 y la confiabilidad de los modelos de lenguaje: entre errores, expectativas y realidades

Publicado el

por Natalia Polo

La llegada de GPT-5 ha generado un amplio debate en la comunidad tecnológica. Prometido como un modelo con inteligencia «nivel doctorado», ha sido puesto a prueba desde su lanzamiento por usuarios curiosos, expertos en inteligencia artificial y hasta por sus propios creadores. Lejos de cumplir con las altas expectativas, el modelo ha mostrado una tendencia preocupante: proporcionar información falsa con total seguridad.

El problema, conocido técnicamente como alucinaciones (hallucinations), se refiere a las ocasiones en que un modelo de lenguaje genera respuestas incorrectas, pero lo hace con un tono tan convincente que puede engañar incluso a usuarios experimentados. Y aunque este comportamiento no es nuevo en los LLMs (Large Language Models), sorprende que GPT-5 mantenga e incluso agrave este fenómeno en ciertas circunstancias. Continúa leyendo «GPT-5 y la confiabilidad de los modelos de lenguaje: entre errores, expectativas y realidades»

Google presenta VaultGemma, su modelo de IA que protege la privacidad sin comprometer el rendimiento

Publicado el

por Natalia Polo

Uno de los grandes desafíos en el desarrollo de modelos de lenguaje de gran escala (LLM) es encontrar el equilibrio entre su capacidad para generar respuestas útiles y la necesidad de proteger los datos personales incluidos en los conjuntos de entrenamiento. Cuanto más datos se utilizan, mayor es la calidad del contenido generado, pero también aumenta el riesgo de que se reproduzca información sensible. Este conflicto ha generado controversias y llamados a una regulación más estricta sobre cómo se entrenan estas tecnologías.

En este contexto, Google ha presentado VaultGemma, un nuevo modelo de lenguaje que promete resolver este conflicto. VaultGemma es parte de un esfuerzo más amplio por encontrar métodos que limiten la capacidad de los modelos para memorizar datos, sin afectar gravemente su utilidad. Esta innovación viene respaldada por equipos de Google Research y DeepMind, y busca establecer una base técnica más responsable para el futuro de la inteligencia artificial generativa. Continúa leyendo «Google presenta VaultGemma, su modelo de IA que protege la privacidad sin comprometer el rendimiento»

OpenAI admite un error clave en la forma en que entrena sus modelos de IA

Publicado el

por Natalia Polo

Uno de los mayores desafíos que enfrenta la inteligencia artificial generativa es su tendencia a ofrecer respuestas incorrectas con total seguridad. Este fenómeno, conocido como alucinaciones de los modelos de lenguaje, ha sido motivo de preocupación tanto para investigadores como para usuarios, y ahora OpenAI, la empresa detrás de ChatGPT, ha reconocido que el problema no es solo técnico, sino estructural. Continúa leyendo «OpenAI admite un error clave en la forma en que entrena sus modelos de IA»

Microsoft presenta sus propios LLMs y redefine su estrategia en inteligencia artificial

Publicado el

por Natalia Polo

Microsoft acaba de dar un paso estratégico que podría cambiar el equilibrio en el competitivo mundo de la inteligencia artificial generativa. El lanzamiento de sus propios modelos de lenguaje (LLM), llamados MAI-1-preview y MAI-Voice-1, marca el inicio de una etapa en la que la empresa busca depender menos de OpenAI, su actual socio clave en el desarrollo de Copilot, y más de su propia capacidad tecnológica.

Hasta ahora, Microsoft había confiado plenamente en los modelos de OpenAI, en particular ChatGPT, para alimentar las capacidades de Copilot, su asistente impulsado por IA. Pero las tensiones surgidas tras una inversión millonaria de 13.000 millones de dólares y la ambigüedad sobre lo que Microsoft obtiene a cambio han motivado una decisión estratégica: desarrollar su propia tecnología de base. Continúa leyendo «Microsoft presenta sus propios LLMs y redefine su estrategia en inteligencia artificial»

Las grandes mentes artificiales se enfrentan en un tablero de ajedrez

Publicado el

por Natalia Polo

Kaggle, la reconocida plataforma de ciencia de datos propiedad de Google, ha dado un nuevo paso para poner a prueba la capacidad de razonamiento de los modelos de lenguaje más avanzados del mundo. Lo ha hecho a través de Game Arena, un espacio competitivo en el que estos sistemas se enfrentarán en juegos estratégicos, comenzando por uno de los clásicos indiscutibles: el ajedrez.

El evento inaugural reúne a modelos de IA de gigantes tecnológicos como OpenAI, Google, Anthropic, xAI, DeepSeek y Moonshot en un torneo público que busca algo más que entretenimiento: medir la inteligencia estratégica, la planificación y la adaptabilidad de cada modelo. Continúa leyendo «Las grandes mentes artificiales se enfrentan en un tablero de ajedrez»

OpenAI abre sus modelos de lenguaje: una jugada clave para democratizar la IA

Publicado el

por Natalia Polo

OpenAI ha dado un giro significativo en su estrategia al lanzar dos nuevos modelos de lenguaje de código abierto y peso abierto, que ya están disponibles para descargar y modificar libremente. Esta decisión marca un punto de inflexión no solo para la empresa, sino para todo el ecosistema de inteligencia artificial generativa. Continúa leyendo «OpenAI abre sus modelos de lenguaje: una jugada clave para democratizar la IA»

GLM-4.5: La familia de modelos de IA abierta de China que busca competir con los gigantes occidentales

Publicado el

por Natalia Polo

China vuelve a captar la atención del ecosistema de la inteligencia artificial con el lanzamiento de GLM-4.5, una familia de modelos de lenguaje desarrollada por la startup Z.ai. Este anuncio no solo refuerza el avance técnico de la industria china en IA, sino que pone sobre la mesa una alternativa abierta y potente frente a modelos cerrados de gigantes como OpenAI, Anthropic o Google.

A continuación, exploramos qué trae de nuevo esta propuesta, por qué podría interesar a empresas y desarrolladores, y cuáles son sus puntos fuertes y diferencias clave. Continúa leyendo «GLM-4.5: La familia de modelos de IA abierta de China que busca competir con los gigantes occidentales»

FuriosaAI se afianza como actor clave en chips para IA tras alianza con LG

Publicado el

por Natalia Polo

La startup surcoreana FuriosaAI ha dado un paso firme hacia su consolidación en el competitivo mercado de los chips para inteligencia artificial, al firmar un acuerdo de gran envergadura con LG AI Research. La colaboración se centra en el suministro de su chip especializado RNGD, optimizado para ejecutar modelos de lenguaje de gran escala (LLM), en el marco de la plataforma EXAONE 4.0, recientemente presentada por LG. Continúa leyendo «FuriosaAI se afianza como actor clave en chips para IA tras alianza con LG»

OpenAI alcanza nivel de medalla de oro en la Olimpiada Internacional de Matemáticas

Publicado el

por Natalia Polo

En uno de los avances más llamativos en el campo de la inteligencia artificial, OpenAI ha anunciado que uno de sus modelos experimentales ha logrado un rendimiento equiparable al de un medallista de oro en la prestigiosa Olimpiada Internacional de Matemáticas (IMO). Se trata de una competencia conocida por su dificultad extrema, donde solo los mejores estudiantes del mundo consiguen destacar.

Este logro no solo representa un paso importante en la capacidad de las IA para razonar, sino que también reabre el debate sobre qué significa verdaderamente «entender» algo en el contexto de una máquina. Continúa leyendo «OpenAI alcanza nivel de medalla de oro en la Olimpiada Internacional de Matemáticas»