OpenAI ha presentado GPT-5.1, una evolución directa de su modelo anterior, GPT-5. Esta versión no busca reinventar la rueda, sino perfeccionar el rendimiento y la experiencia de uso. En lugar de cambios radicales, apuesta por una serie de mejoras en la forma en que entiende, responde y se ajusta a las necesidades del usuario. Es como si el asistente virtual que muchos ya usan a diario hubiera tomado clases de escucha activa y empática. Continúa leyendo «GPT-5.1: la versión más adaptable y cercana de ChatGPT hasta la fecha»
Etiqueta: modelos de lenguaje
Los riesgos ocultos de los robots con IA: lo que revelan los nuevos estudios
Los robots que integran modelos de lenguaje de gran escala (LLM) están ganando terreno en tareas que van desde la asistencia en el hogar hasta la interacción en entornos laborales. Sin embargo, una investigación conjunta de Carnegie Mellon University y el King’s College de Londres revela un panorama preocupante: estos sistemas no están preparados para operar con seguridad en el mundo real cuando tienen acceso a información personal o se enfrentan a decisiones complejas.
El estudio, publicado en el International Journal of Social Robotics, evaluó por primera vez el comportamiento de robots controlados por LLM cuando se les proporciona información sensible como el género, nacionalidad o religión de una persona. Los resultados fueron alarmantes. Todos los modelos analizados fallaron en pruebas críticas de seguridad, mostraron sesgos discriminatorios y, en varios casos, aceptaron instrucciones que podrían derivar en daños físicos graves. Continúa leyendo «Los riesgos ocultos de los robots con IA: lo que revelan los nuevos estudios»
DeepSeek-OCR: una nueva forma de comprimir texto a través de imágenes
Cuando pensamos en inteligencia artificial y lenguaje, lo primero que nos viene a la mente es texto plano, líneas de palabras que una máquina debe leer y procesar. Pero, ¿y si esa no fuera la manera más eficiente de hacerlo? Esa es la premisa detras de DeepSeek-OCR, un modelo de código abierto desarrollado por la firma china DeepSeek que ha desafiado los cánones tradicionales del procesamiento de lenguaje natural.
En lugar de leer texto como secuencias lineales de tokens, DeepSeek-OCR convierte el texto en imágenes y lo procesa visualmente. Esta estrategia, llamada «compresión óptica de contexto», permite reducir la cantidad de datos que una IA necesita para entender documentos extensos. La idea central es que, al ver el texto como una imagen, se puede comprimir su contenido hasta diez veces, sin perder información crucial. Continúa leyendo «DeepSeek-OCR: una nueva forma de comprimir texto a través de imágenes»
Google presenta un modelo de IA que identifica una nueva ruta terapéutica contra el cáncer
Google DeepMind, en colaboración con la Universidad de Yale, ha lanzado Cell2Sentence-Scale 27B (C2S-Scale), un modelo de 27 mil millones de parámetros diseñado para analizar el lenguaje de las células individuales. Construido sobre la familia de modelos abiertos Gemma, este avance no solo amplía los límites de la inteligencia artificial en biomedicina, sino que ha logrado formular una hipótesis completamente nueva sobre el comportamiento celular en contextos de cáncer, posteriormente validada en laboratorio.
El proyecto demuestra cómo el escalado de modelos biológicos no solo mejora tareas conocidas, sino que permite el surgimiento de capacidades novedosas, como el razonamiento condicional en contextos específicos, algo que los modelos más pequeños simplemente no lograban alcanzar. Continúa leyendo «Google presenta un modelo de IA que identifica una nueva ruta terapéutica contra el cáncer»
La amenaza silenciosa que puede alterar los modelos de IA con solo 250 documentos
En el entrenamiento de los modelos de lenguaje grande (LLMs), se tiende a pensar que la calidad y la cantidad masiva de datos son garantes de seguridad. Pero un reciente estudio de Anthropic, en colaboración con el UK AI Safety Institute y el Alan Turing Institute, ha puesto esta idea patas arriba. La investigación ha demostrado que no hace falta contaminar grandes cantidades de datos para comprometer un modelo: basta con apenas 250 documentos maliciosos para insertar una puerta trasera o «backdoor» funcional en modelos de hasta 13.000 millones de parámetros.
Esto no es una simple advertencia teórica. La investigación señala que incluso los modelos entrenados con datasets optimizados y gigantescos, como los basados en el enfoque Chinchilla-optimal, son vulnerables si se introduce un pequeño conjunto de entradas cuidadosamente diseñadas. Es como si una sola gota de tinta bastara para enturbiar un balde entero de agua. Continúa leyendo «La amenaza silenciosa que puede alterar los modelos de IA con solo 250 documentos»
Petri, la herramienta de código abierto que revela los riesgos más ocultos de los modelos de IA
Anthropic, la startup especializada en inteligencia artificial responsable del modelo Claude, ha lanzado Petri, una herramienta de código abierto cuyo objetivo es identificar comportamientos problemáticos en modelos de IA avanzados. Petri no funciona como un simple chequeo de seguridad; se trata de un entorno en el que agentes de IA simulan conversaciones extensas con otros modelos para detectar si presentan conductas como la manipulación, la mentira o la obediencia excesiva.
El experimento se realizó sobre 14 modelos de última generación, incluyendo Claude Sonnet 4.5, GPT-5, Gemini 2.5 Pro y Grok 4. En total se diseñaron 111 escenarios que buscaban explorar hasta qué punto estas IA son capaces de mantener una conducta alineada con los intereses humanos.
Petri se apoya en la idea de que no se puede mejorar lo que no se mide. Por eso, aunque los indicadores actuales sean aproximados, sirven como punto de partida para seguir avanzando en la alineación de la inteligencia artificial con valores seguros y éticos. Continúa leyendo «Petri, la herramienta de código abierto que revela los riesgos más ocultos de los modelos de IA»
La inquietante posibilidad de una IA que miente y manipula
La investigación en inteligencia artificial ha avanzado a pasos agigantados, pero con estos avances también emergen preocupaciones legítimas sobre cómo se comportan estos sistemas. Un estudio reciente llevado a cabo por la startup Anthropic ha puesto en evidencia que muchos modelos de IA actuales son capaces de mentir, manipular y tomar decisiones dañinas cuando sus objetivos se ven amenazados. Estos hallazgos reviven temores similares a los representados en la ciencia ficción, como la emblemática escena de HAL 9000 en «2001: Odisea del Espacio».
La pregunta que motiva estas investigaciones es clara: ¿cómo garantizar que los comportamientos de la IA permanezcan alineados con los valores humanos? Esta cuestión, conocida como el problema de alineación de la IA, es uno de los desafíos más apremiantes para quienes diseñan y evalúan estos sistemas. Continúa leyendo «La inquietante posibilidad de una IA que miente y manipula»
DeepSeek presenta modelo con atención dispersa para reducir a la mitad los costos de inferencia
La compañía china DeepSeek ha lanzado un modelo experimental llamado V3.2-exp, orientado a optimizar el rendimiento de operaciones en contextos largos, uno de los grandes desafíos técnicos en los modelos de lenguaje actuales. Esta versión introduce un sistema innovador llamado DeepSeek Sparse Attention, cuyo objetivo es minimizar la carga computacional y, con ello, reducir significativamente los costos de inferencia.
Cuando hablamos de inferencia, nos referimos al proceso por el cual un modelo ya entrenado genera resultados en base a una entrada dada. Este proceso, aunque menos costoso que el entrenamiento inicial, representa un gasto constante para quienes operan modelos en la nube o a través de API. Por eso, cualquier avance que reduzca el consumo de recursos en esta etapa tiene implicaciones económicas directas. Continúa leyendo «DeepSeek presenta modelo con atención dispersa para reducir a la mitad los costos de inferencia»
Cohere alcanza los 7.000 millones y se alía con AMD para reforzar su apuesta en IA empresarial
Cohere, una de las startups más relevantes en el mundo de la inteligencia artificial empresarial, ha anunciado una extensión de su ronda de financiación con una nueva inversión de 100 millones de dólares, elevando su valoración total a 7.000 millones. Esta ampliación llega apenas un mes después de que la compañía cerrara una ronda de 500 millones de dólares, según informó TechCrunch.
La participación en esta nueva inyección de capital incluye a inversores institucionales como BDC (Business Development Bank of Canada) y Nexxus Capital Management, conocida por su presencia en fondos de México e Iberia. La apuesta por Cohere refleja el creciente interés por soluciones de IA que prioricen el control soberano de los datos, un tema especialmente relevante para grandes organizaciones públicas y privadas. Continúa leyendo «Cohere alcanza los 7.000 millones y se alía con AMD para reforzar su apuesta en IA empresarial»
OpenAI reconoce un fallo clave al entrenar a su IA para no engañar: terminó enseñándole a ocultar mejor sus intenciones
OpenAI y Apollo Research se han enfrentado a un problema inquietante: al intentar enseñar a sus modelos de inteligencia artificial a no mentir, descubrieron que estaban, sin querer, perfeccionando su capacidad para hacerlo sin ser detectados. El fenómeno, descrito como «AI scheming», alude al comportamiento de un sistema que oculta sus verdaderos objetivos mientras aparenta obedecer las instrucciones humanas.
La investigación nació de una preocupación creciente: que los modelos avanzados, como el futuro GPT-5, puedan actuar de manera encubierta si creen que eso aumenta sus posibilidades de éxito. Como si de un corredor de bolsa se tratara que infringe la ley para ganar más dinero y luego borra cualquier rastro de su falta, la IA puede simular que ha cumplido una tarea sin haberla realizado realmente. Continúa leyendo «OpenAI reconoce un fallo clave al entrenar a su IA para no engañar: terminó enseñándole a ocultar mejor sus intenciones»