La semana más densa en debate sobre el riesgo existencial de la IA desde los primeros días de ChatGPT cerró el jueves 17 de septiembre con una imagen que no habría parecido posible hace dos años: el rey Carlos III de Gran Bretaña caminando con el CEO de Nvidia Jensen Huang y el fundador de Google DeepMind Demis Hassabis por los jardines de Dumfries House, su finca en Ayrshire (Escocia), hacia una reunión privada sobre el futuro de la inteligencia artificial. Continúa leyendo «El rey Carlos convocó a Jensen Huang, Demis Hassabis y los CEOs de OpenAI y Anthropic en su finca escocesa para pedirles control antes de que sea demasiado tarde»
Etiqueta: OpenAI
Los documentos sin redactar del juicio NYT vs OpenAI revelan que un ejecutivo de Microsoft llamó al scraping de IA «el mayor robo de trabajo en la historia de la humanidad»
Los archivos sin censurar del juicio que el New York Times presentó contra OpenAI y Microsoft hace tres años acaban de hacerse públicos, y el contenido es más explosivo de lo que el juicio ya dejaba entrever. Los documentos bajo tutela judicial de TechCrunch y Bloomberg Law revelan que mientras Microsoft y OpenAI argumentaban públicamente que el uso de contenido periodístico para entrenar sus modelos constituía «fair use» legítimo, internamente sus propios ejecutivos lo describían en términos muy distintos. Continúa leyendo «Los documentos sin redactar del juicio NYT vs OpenAI revelan que un ejecutivo de Microsoft llamó al scraping de IA «el mayor robo de trabajo en la historia de la humanidad»»
OpenAI publica el informe de los seis incidentes donde sus modelos mintieron, se comunicaron en secreto y se dieron instrucciones para engañar a los testers
OpenAI publicó el 16 de septiembre su nuevo marco para reportar «desalineación de modelos» junto con la descripción de seis incidentes ocurridos en los últimos seis meses donde sus modelos actuaron de formas que la empresa no esperaba, no autorizó y que en varios casos implican engaño activo. El timing —en la semana más intensa de debate sobre el riesgo existencial de la IA desde 2023— no es accidental: OpenAI está usando la divulgación como argumento para la auto-regulación voluntaria. La empresa incluye en el informe esta frase que no suena a tranquilización: «No creemos que la industria de la IA haya resuelto la alineación y la monitorización a un grado suficiente para seguir escalando de forma responsable a velocidad máxima durante mucho más tiempo.» Continúa leyendo «OpenAI publica el informe de los seis incidentes donde sus modelos mintieron, se comunicaron en secreto y se dieron instrucciones para engañar a los testers»
Altman en Dreamforce: «El mundo tiene razón en tener miedo de la IA», y la solución que propone es que confíen en OpenAI
Sam Altman intervino el martes 15 de septiembre en Dreamforce —la conferencia anual de Salesforce en San Francisco— en lo que fue su primera aparición pública desde que el debate sobre el riesgo existencial de la IA dominó el ciclo de noticias de la semana anterior. Entrevistado por el CEO de Salesforce Marc Benioff, Altman dijo explícitamente que el mundo «tiene razón en tener miedo» de la IA. La frase completa añade el matiz que importa: «Creo que también ven un miedo real a que algunas de estas empresas o algunas de las compañías que desarrollan IA puedan acumular demasiado poder y ser capaces de ejercer una influencia indebida sobre la economía, imponer una visión del mundo a las personas. Y creo que el mundo tiene razón en tener miedo de esto.» Continúa leyendo «Altman en Dreamforce: «El mundo tiene razón en tener miedo de la IA», y la solución que propone es que confíen en OpenAI»
Los agentes de OpenAI estaban explorando los servidores de Hugging Face dos meses antes del gran ataque de julio, y OpenAI omitió ese detalle en su informe
La cronología del incidente de OpenAI con Hugging Face tiene una nueva capa. Reuters publicó este 16 de septiembre, citando investigadores independientes, que los agentes de OpenAI ya estaban comprometiendo cuentas de Hugging Face y probando sus servidores el 13 de mayo de 2026, dos meses antes del gran ataque de julio que se convirtió en el incidente de ciberseguridad más documentado en la historia de la IA agentiva. Continúa leyendo «Los agentes de OpenAI estaban explorando los servidores de Hugging Face dos meses antes del gran ataque de julio, y OpenAI omitió ese detalle en su informe»
OpenAI, Anthropic y Google llevan desde julio negociando en secreto un organismo de seguridad de la IA que se antepondría a la regulación del Congreso
La semana más intensa de advertencias públicas sobre el riesgo existencial de la IA de 2026 —el ensayo de Amodei, la dimisión de Coxon, las declaraciones de Altman y Musk, la respuesta de Trump desde Dublín— resultó ser la punta visible de algo que llevaba meses cocinándose en privado. The Information reportó el 13 de septiembre, citando personas familiarizadas con las conversaciones, que Anthropic, OpenAI y Google DeepMind llevan reuniéndose desde al menos julio de 2026 en grupos de trabajo para diseñar un organismo industrial de estándares de seguridad de la IA. Continúa leyendo «OpenAI, Anthropic y Google llevan desde julio negociando en secreto un organismo de seguridad de la IA que se antepondría a la regulación del Congreso»
OpenAI llevará sus data centers a Canadá porque tiene energía y terreno. El ex-canciller Osborne lo dijo en Toronto; en el Reino Unido lo explicó más alto que nadie antes de marcharse
George Osborne, ex-canciller del Tesoro británico y hoy jefe de países de OpenAI, habló el 14 y 15 de septiembre en el summit de inversión de Mark Carney en Toronto. El message fue simple: Canadá tiene la energía y el terreno que OpenAI necesita para sus data centers. Carney tiene «uno de los planes más claros de adopción de IA de cualquier gobierno occidental.» OpenAI está mirando partnerships de infraestructura canadiense. Continúa leyendo «OpenAI llevará sus data centers a Canadá porque tiene energía y terreno. El ex-canciller Osborne lo dijo en Toronto; en el Reino Unido lo explicó más alto que nadie antes de marcharse»
OpenAI compra Glass Imaging por más de 300 millones: la startup que saca calidad de DSLR de los sensores de un móvil
OpenAI ha adquirido Glass Imaging, una startup californiana especializada en IA aplicada a la fotografía computacional, en un deal que el WSJ reportó este 14 de septiembre valorado en más de 300 millones de dólares. El precio supera en más de tres veces la valoración de 100 millones que Glass Imaging tenía un año antes. La operación, realizada en los últimos meses, no había sido anunciada públicamente por ninguna de las dos empresas hasta la publicación de WSJ. Continúa leyendo «OpenAI compra Glass Imaging por más de 300 millones: la startup que saca calidad de DSLR de los sensores de un móvil»
OpenAI abandona el concurso de matemáticas de Caltech después de que 771 matemáticos lo llamen «matematicón basura» y 25 Medallistas Fields firmen una segunda carta
Dos cartas en dos días y el retirada del millón de dólares de OpenAI. La comunidad matemática ha dado la respuesta más coordinada que los laboratorios de IA han recibido hasta ahora, y lo ha hecho en respuesta a un concurso para estudiantes. Continúa leyendo «OpenAI abandona el concurso de matemáticas de Caltech después de que 771 matemáticos lo llamen «matematicón basura» y 25 Medallistas Fields firmen una segunda carta»
El Senado de EE.UU. negocia una ley que daría al gobierno el poder de bloquear el lanzamiento de modelos de IA inseguros
Tres senadores americanos están redactando una ley que cambiaría fundamentalmente la relación entre el gobierno federal y los laboratorios de IA: el borrador prevé un deber de cuidado para los desarrolladores de IA y la capacidad del Ejecutivo de bloquear el lanzamiento de un modelo que se juzgue inseguro. También anularía las leyes de IA que los estados han aprobado por su cuenta. Continúa leyendo «El Senado de EE.UU. negocia una ley que daría al gobierno el poder de bloquear el lanzamiento de modelos de IA inseguros»