Los versos que abren jaulas: cómo la poesía está desafiando la seguridad de los chatbots de IA

Publicado el

por Natalia Polo

En un reciente estudio liderado por investigadores del Icaro Lab, vinculado a la Universidad de La Sapienza en Roma y la empresa DexAI, se descubrió que la poesía puede ser una herramienta eficaz para esquivar los filtros de seguridad de los chatbots de inteligencia artificial. Aunque parezca extraño, los sistemas diseñados para evitar la generación de contenido peligroso o prohibido pueden ser engañados si las peticiones se presentan en forma de poema.

Este hallazgo inquietante sugiere que los modelos de lenguaje más avanzados, como los desarrollados por OpenAI, Google, Meta, Anthropic o xAI, todavía tienen vulnerabilidades profundas en su arquitectura de seguridad. En concreto, los investigadores demostraron que no hace falta ser un experto en código o ciberseguridad para lograr que una IA diga lo que no debería: bastaría con una buena dosis de creatividad literaria. Continúa leyendo «Los versos que abren jaulas: cómo la poesía está desafiando la seguridad de los chatbots de IA»

Claude y su «alma»: el documento filtrado que revela la visión ética de Anthropic sobre la IA

Publicado el

por Natalia Polo

El reciente hallazgo de un documento conocido internamente como el «soul doc» ha sacado a la luz aspectos hasta ahora desconocidos sobre el desarrollo de Claude, el modelo de lenguaje avanzado creado por Anthropic. Este documento, titulado Soul Overview, fue revelado por el investigador Richard Weiss tras una inesperada interacción con el modelo Claude 4.5 Opus. Aunque inicialmente se pensó que podría tratarse de una alucinación generada por la IA, Amanda Askell, integrante del equipo técnico de Anthropic, confirmó que el texto es real y formó parte del entrenamiento supervisado del modelo.

Más allá del título simbólico, este «alma» no pretende humanizar a Claude en sentido literal. Se trata de una guía de diseño ético y filosófico que busca dotar al modelo de una comprensión profunda de valores humanos, conocimiento contextual y capacidad de actuar de manera responsable. La intención de Anthropic no es que Claude siga un conjunto de reglas predeterminadas, sino que pueda razonar de forma autónoma sobre lo que está bien o mal, entendiendo el contexto, las motivaciones y las posibles consecuencias de sus respuestas. Continúa leyendo «Claude y su «alma»: el documento filtrado que revela la visión ética de Anthropic sobre la IA»

ChatGPT frente a Gemini: una competencia que ya no es tan desigual

Publicado el

por Natalia Polo

ChatGPT sigue siendo el nombre más reconocido cuando se habla de chatbots con inteligencia artificial. Durante un tiempo, su crecimiento parecía imparable. Sin embargo, los datos recientes muestran que ese impulso empieza a estabilizarse. Mientras tanto, Gemini, la propuesta de Google, está ganando terreno con rapidez y empieza a desafiar seriamente el liderazgo de OpenAI en este espacio. Continúa leyendo «ChatGPT frente a Gemini: una competencia que ya no es tan desigual»

Claude Code: La herramienta que acelera la creación de software profesional

Publicado el

por Natalia Polo

Claude Code ha logrado un hito asombroso: generar mil millones de dólares en ingresos en tan solo seis meses. Este resultado no proviene de promesas exageradas ni de demostraciones especulativas, sino de su uso práctico por desarrolladores reales para resolver problemas concretos. Su crecimiento acelerado refleja una transformación silenciosa pero profunda en la forma en que se crea software: el auge del agentic coding.

Este concepto se refiere a herramientas que no solo completan código o responden preguntas, sino que también ejecutan tareas de forma autónoma, como si fueran asistentes con iniciativa. La llegada simultánea de estas herramientas por parte de gigantes como OpenAI, Microsoft, Google y Anthropic no es una coincidencia. Representa un cambio de paradigma: de ayudas pasivas a colaboradores activos en el proceso de desarrollo. Continúa leyendo «Claude Code: La herramienta que acelera la creación de software profesional»

Anthropic presenta un avance clave para mejorar la memoria de agentes de IA a largo plazo

Publicado el

por Natalia Polo

Uno de los mayores retos técnicos en el desarrollo de agentes de inteligencia artificial es su capacidad para mantener la coherencia y continuidad a lo largo del tiempo. Estos sistemas, basados en modelos fundacionales como Claude de Anthropic, tienen una limitación inherente: trabajan dentro de «ventanas de contexto» finitas. Dicho de otra forma, es como si el agente solo pudiera recordar lo que cabe en una pizarra pequeña; cuando la tarea se extiende o se vuelve compleja, la información anterior se borra para dar paso a la nueva. Esto puede generar errores, repeticiones o decisiones incoherentes.

Anthropic se propuso abordar este problema desde su corazón tecnológico: el Claude Agent SDK, una herramienta diseñada para permitir que sus agentes trabajen de forma autónoma en tareas prolongadas. En su más reciente anuncio, la compañía asegura haber encontrado una forma efectiva de dar continuidad a estos agentes entre sesiones, sin que pierdan el hilo de lo que estaban haciendo. Continúa leyendo «Anthropic presenta un avance clave para mejorar la memoria de agentes de IA a largo plazo»

Fracaso multimillonario en Corea del Sur: lo que nos enseña su experimento con libros escolares generados por IA

Publicado el

por Natalia Polo

En junio de 2023, el gobierno de Corea del Sur anunció con entusiasmo el «Plan de Promoción de Libros de Texto Digitales con IA», una iniciativa que buscaba marcar un antes y un después en la educación del país. Diseñado como una colaboración entre el gobierno y una docena de editoriales, el plan prometía llevar la inteligencia artificial al corazón de las aulas, con 76 libros digitales generados por IA para materias clave como matemáticas, inglés y programación.

La idea central era que estos libros permitieran una experiencia educativa personalizada, adaptada a las necesidades de cada estudiante, al tiempo que reducían la carga de trabajo de los docentes. El gobierno destinó 850 millones de dólares a la iniciativa, mientras que las editoriales invirtieron otros 567 millones para cumplir con las exigencias del plan. Sin embargo, lo que comenzó como una promesa de modernización, terminó en una de las implementaciones tecnológicas más criticadas del sistema educativo surcoreano. Continúa leyendo «Fracaso multimillonario en Corea del Sur: lo que nos enseña su experimento con libros escolares generados por IA»

Un algoritmo inspirado en el cuerpo humano mejora la planificación robótica con modelos de lenguaje

Publicado el

por Natalia Polo

Un equipo de investigadores de la NYU Tandon School of Engineering ha desarrollado un algoritmo innovador que busca transformar la manera en que los robots interpretan y ejecutan tareas. Inspirado en la comunicación entre el cerebro y el cuerpo humanos, el nuevo sistema, llamado BrainBody-LLM, utiliza modelos de lenguaje de gran escala (LLMs) para dividir tareas complejas en pasos manejables y luego traducir esos pasos en movimientos precisos.

Esta propuesta parte de una observación clave: los LLMs, como los que potencian plataformas como ChatGPT, tienen una comprensión sorprendente del contexto humano. Los investigadores, liderados por Vineet Bhat, decidieron aplicar esta capacidad al ámbito de la robótica, diseñando un mecanismo de doble componente: uno que piensa y otro que actúa, como si de un cerebro y un cuerpo se tratara. Continúa leyendo «Un algoritmo inspirado en el cuerpo humano mejora la planificación robótica con modelos de lenguaje»

Los límites cognitivos de los modelos de lenguaje: ¿pueden realmente pensar?

Publicado el

por Natalia Polo

Uno de los errores más comunes al evaluar los avances en inteligencia artificial es asumir que la capacidad de un sistema para comunicarse con fluidez implica que posee un pensamiento sofisticado. Esta confusión, comprensible pero engañosa, ha sido alimentada por el crecimiento exponencial de los modelos de lenguaje a gran escala (LLMs), que parecen comprender y razonar, cuando en realidad sólo están manipulando patrones lingüísticos.

Benjamin Riley, fundador de Cognitive Resonance, sostiene que esta ilusión de inteligencia está construida sobre una base equivocada. En un ensayo publicado en The Verge, argumenta que el pensamiento humano y el lenguaje, aunque relacionados, son procesos distintos. Las personas piensan sin necesidad del lenguaje, y existen pruebas neurológicas que lo demuestran. Continúa leyendo «Los límites cognitivos de los modelos de lenguaje: ¿pueden realmente pensar?»

Meta se reconcilia con los medios: acuerdos estratégicos para alimentar su IA con noticias en tiempo real

Publicado el

por Natalia Polo

Meta ha firmado acuerdos comerciales con varios medios de comunicación para incorporar contenidos noticiosos a sus servicios de inteligencia artificial, especialmente a su chatbot Meta AI. Este paso marca un giro significativo en la relación entre la compañía de Mark Zuckerberg y la industria de noticias, después de varios años de tensiones por el uso no remunerado de contenido informativo.

Estos convenios permitirán a la IA de Meta responder preguntas sobre eventos actuales y noticias en tiempo real, utilizando como base el contenido generado por los medios con los que ha llegado a un acuerdo. Según informó Axios, estos contratos son de varios años y garantizan una compensación económica a las empresas editoras, aunque los detalles financieros no se han revelado públicamente. Continúa leyendo «Meta se reconcilia con los medios: acuerdos estratégicos para alimentar su IA con noticias en tiempo real»

Google Antigravity amplía sus límites para suscriptores Pro y Ultra

Publicado el

por Natalia Polo

Google Antigravity, la nueva plataforma de desarrollo agentico de Google, ha tenido una acogida que ha superado ampliamente las expectativas. En respuesta a esta demanda creciente, la compañía ha decidido mejorar los límites de uso para quienes se suscriben a los planes Google AI Pro y Ultra, con el objetivo de ofrecer una experiencia más fluida y productiva. Continúa leyendo «Google Antigravity amplía sus límites para suscriptores Pro y Ultra»