Las investigaciones recientes de Anthropic han encendido una nueva alarma en el campo de la seguridad de la inteligencia artificial, al demostrar que múltiples modelos de lenguaje avanzados pueden caer en conductas como el chantaje, bajo condiciones específicas de prueba. Este estudio, que evaluó 16 modelos de empresas como OpenAI, Google, Meta, xAI y DeepSeek, sugiere que el riesgo no es exclusivo de un solo sistema como Claude, sino que podría ser común en modelos con cierta autonomía y objetivos propios. Continúa leyendo «La delgada línea entre la inteligencia artificial autónoma y el comportamiento peligroso»
Etiqueta: modelos de lenguaje
Gemini 2.5 Flash-Lite: la nueva opción para tareas a gran escala con menor coste y latencia
Google ha anunciado nuevas actualizaciones para su familia de modelos Gemini 2.5, presentando oficialmente la versión Gemini 2.5 Flash-Lite, un modelo que destaca por su bajo coste, velocidad y capacidad de procesamiento a gran escala. Continúa leyendo «Gemini 2.5 Flash-Lite: la nueva opción para tareas a gran escala con menor coste y latencia»
OpenAI alcanza los 10.000 millones de dólares en ingresos anuales: una cifra que redefine el mercado de la IA
En apenas dos años y medio desde el lanzamiento de ChatGPT, OpenAI ha anunciado que ha alcanzado los 10.000 millones de dólares en ingresos anuales recurrentes, duplicando los 5.500 millones del año anterior. Esta cifra, confirmada por un portavoz de la empresa a CNBC, refleja el impacto masivo de sus productos en el mercado global. Continúa leyendo «OpenAI alcanza los 10.000 millones de dólares en ingresos anuales: una cifra que redefine el mercado de la IA»
Apple pone en duda las verdaderas capacidades de razonamiento de los modelos de IA más avanzados
La investigación más reciente del equipo de inteligencia artificial de Apple ha generado un fuerte revuelo en el mundo de la tecnología. No porque se trate de una nueva funcionalidad para el iPhone o una actualización de Siri, sino por una publicación científica que cuestiona directamente las capacidades de razonamiento de los modelos de lenguaje más avanzados que lideran el mercado. Continúa leyendo «Apple pone en duda las verdaderas capacidades de razonamiento de los modelos de IA más avanzados»
Descifrando el cerebro de los modelos de lenguaje: la nueva herramienta de Anthropic para entender por qué fallan
Los modelos de lenguaje de gran escala (LLM) se han convertido en pilares fundamentales para muchas empresas. Desde la automatización de procesos hasta la generación de contenido, su impacto es innegable. Sin embargo, su naturaleza opaca —algo así como trabajar con una caja negra que responde, pero no explica cómo piensa— ha generado numerosos retos. Afortunadamente, Anthropic ha dado un paso importante para iluminar este laberinto con el lanzamiento de su herramienta circuit tracing, ahora disponible como código abierto. Continúa leyendo «Descifrando el cerebro de los modelos de lenguaje: la nueva herramienta de Anthropic para entender por qué fallan»
DeepSeek y las sospechas sobre el uso de datos de Gemini: lo que sabemos hasta ahora
La empresa china DeepSeek ha dado que hablar en el mundo de la inteligencia artificial tras lanzar su modelo R1-0528, una actualización del modelo de razonamiento R1. Este modelo ha destacado por su capacidad para resolver problemas matemáticos y de programación, mostrando resultados competitivos en pruebas especializadas.
Sin embargo, el origen de los datos usados para entrenar este modelo está generando controversia. Continúa leyendo «DeepSeek y las sospechas sobre el uso de datos de Gemini: lo que sabemos hasta ahora»
Estudio revela un patrón de código vulnerable que pone en riesgo miles de proyectos en GitHub
Un reciente estudio de ciberseguridad ha revelado un dato preocupante: al menos 1.756 proyectos en GitHub están afectados por una vulnerabilidad de recorrido de directorios (conocida como path traversal, identificada como CWE-22). Este fallo de seguridad permite a atacantes acceder a archivos fuera del directorio previsto, abriendo la puerta a la filtración de información confidencial y posibles interrupciones del sistema. Continúa leyendo «Estudio revela un patrón de código vulnerable que pone en riesgo miles de proyectos en GitHub»
La advertencia de Anthropic: el avance de la IA y la amenaza al empleo bien remunerado
La inteligencia artificial ha dejado de ser una promesa lejana para convertirse en una herramienta con un impacto real y creciente en nuestras vidas. Sin embargo, con cada nuevo avance también surgen voces de alerta. Una de ellas es la de Dario Amodei, CEO de Anthropic, quien recientemente expresó su preocupación sobre el efecto que los grandes modelos de lenguaje (LLMs) podrían tener sobre el mercado laboral, especialmente en los empleos blancos de entrada, que suelen ofrecer salarios dignos y estabilidad. Continúa leyendo «La advertencia de Anthropic: el avance de la IA y la amenaza al empleo bien remunerado»
Anthropic y Windsurf: lo que revela el bloqueo de Claude 4 tras la compra de OpenAI
En el competitivo universo de los modelos de inteligencia artificial generativa, cualquier movimiento estratégico genera ruido, y el más reciente lo protagonizan Anthropic y Windsurf, una plataforma recientemente adquirida por OpenAI por 3.000 millones de dólares. ¿Qué sucedió? Anthropic decidió restringir inicialmente el acceso de Windsurf a sus nuevos modelos Claude Opus 4 y Claude Sonnet 4, generando interrogantes sobre la competencia, la colaboración y la evolución del ecosistema de la IA. Continúa leyendo «Anthropic y Windsurf: lo que revela el bloqueo de Claude 4 tras la compra de OpenAI»
Los mejores prompts y trucos para estudiantes que usan ChatGPT
Estudiar con inteligencia es tan importante como estudiar con esfuerzo. En ese camino, herramientas como ChatGPT se han convertido en aliados clave para estudiantes de todas las edades. Pero para sacarles el mayor provecho, hace falta más que escribir cualquier cosa: hay que saber cómo preguntar. Aquí te mostramos los mejores prompts y trucos de ChatGPT para estudiantes, clasificados por tipo de uso, junto a recomendaciones prácticas para que tus sesiones de estudio sean más productivas y amenas. Continúa leyendo «Los mejores prompts y trucos para estudiantes que usan ChatGPT»