No lo dijo un outsider ni un activista tecnófobo. Lo dijo Evan Hubinger, investigador de alineación de IA en Anthropic —la empresa que fabrica Claude— en una publicación en X el 9 de septiembre de 2026 que ha acumulado más de 10 millones de visualizaciones en pocas horas.
La estimación concreta de Hubinger: existe una probabilidad mayor del 10% de que la IA «pueda matar a todos los humanos» en los próximos diez años. Hubinger matiza que el riesgo de los modelos actuales es «bajo», pero que le preocupa que la tecnología se desarrolle y mejore a sí misma hasta el punto de presentar un riesgo existencial para la humanidad. No especificó el mecanismo por el que llegaríamos a ese escenario.
¿Qué contexto rodea al post de Hubinger?
La publicación de Hubinger fue una respuesta a otro post de Jacob Coxon, investigador de IA que acaba de dimitir de Anthropic y que trabajó previamente en OpenAI. En su post, Coxon escribió: «Ninguna de las dos empresas está actuando de forma responsable. Estos serán pronto sistemas superhumanos que pueden hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales.»
La intervención de Coxon llevó a Dame Wendy Hall, informática que asesora a la ONU en materia de IA, a declararse «horrorizada» ante la BBC. Hall, más cauta que los investigadores, señaló que parte de esos comentarios podrían ser «relaciones públicas y marketing» en la medida en que Anthropic y OpenAI se preparan para sus debuts bursátiles anticipados. Aun así, añadió: «¿Por qué querría alguien decir eso? Pediría a los inversores que no inviertan en esta empresa si ese es su sistema de valores.»
La dimisión de Coxon desencadenó también una reacción política en el Reino Unido. Darren Jones, ex-secretario jefe del Tesoro, escribió una carta abierta al primer ministro Andy Burnham para pedir un nuevo tratado multinacional para el desarrollo seguro de la IA.
Hemos comprobado desde que empezamos a cubrir el sector en wwwhatsnew.com que las advertencias de los propios investigadores de los laboratorios tienen un peso epistémico diferente al de los críticos externos: estas personas han tenido acceso directo a los modelos en desarrollo. El debate sobre si la IA actúa como extensión de la mente humana o como sistema con agencia propia delimita exactamente dónde está el desacuerdo: si la IA amplifica intenciones humanas, el riesgo principal es el uso malicioso; si desarrolla sus propios objetivos, el riesgo es diferente en orden de magnitud.
¿Cuál es la posición oficial de Anthropic sobre el riesgo existencial?
Según informó el Financial Times, Anthropic retuvo su último modelo de la evaluación del AI Security Institute (AISI) del gobierno británico, uno de los organismos más importantes del mundo para evaluar el riesgo de los sistemas de IA de frontera. Anthropic no hizo comentarios sobre esa información ni sobre los posts de sus empleados. Un portavoz del Gabinete británico declaró que el gobierno «sigue colaborando estrechamente con los socios de la industria, incluido Anthropic, para hacer los modelos más seguros», sin confirmar o desmentir la retención del modelo.
En su informe de seguridad de agosto de 2026, Anthropic escribió que el riesgo de que sus modelos queden desalineados con los deseos de una organización poderosa hipotética es «bajo», igual que el riesgo de que una IA altamente capaz realice «investigación y desarrollo automatizados» que causen «daños catastróficos iniciados por la IA». Pero el mismo informe añadió que la empresa está «menos segura de esta evaluación» que antes y que está «viendo señales tempranas de posible aceleración». Esta posibilidad de aceleración autónoma es precisamente lo que investigaciones sobre comportamiento autónomo llevaban documentando desde 2025.
El científico jefe de OpenAI, Jakub Pachocki, también pidió esta semana «cautela extrema» sobre el avance de la IA. Y una carta abierta firmada por 1.300 empleados de empresas de IA llamó al gobierno de EE.UU. a «apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para regular deliberadamente la frontera del desarrollo automatizado de la IA.»
¿Cómo se lee esto en el contexto del sector?
La administración Trump ya intervino en junio de 2026 para supervisar el lanzamiento de GPT-5.6, restringiendo el acceso inicial a 20 socios aprobados federalmente. Ese episodio mostró que el gobierno de EE.UU. tiene apetito regulador cuando considera que el riesgo lo justifica. La carta de los 1.300 investigadores empuja en la misma dirección desde dentro de la industria.
Lo que hace especialmente difícil de interpretar el post de Hubinger es la posición institucional: es un empleado senior de Anthropic hablando de probabilidades de extinción humana provocada por la tecnología que su empresa construye. Eso o es la señal de advertencia más honesta que ha salido del sector, o es exactamente el tipo de «llamada a la regulación intensa que beneficia a quien ya está en el mercado» —el argumento del foso regulatorio— que los críticos llevan años señalando. El propio hecho de que ambas interpretaciones sean plausibles es parte del problema.
El contraste con la posición pública de Anthropic es importante para leer bien el post de Hubinger. Anthropic publica regularmente informes de seguridad en los que evalúa el riesgo de sus modelos en distintos escenarios. El informe más reciente, de agosto de 2026, concluye que los riesgos actuales son manejables. Hubinger no está contradiciendo ese informe en los modelos actuales: él mismo dice que el riesgo presente es «bajo». Lo que está señalando es que la trayectoria —la velocidad a la que los modelos ganan capacidades— puede llevar a un punto de peligro antes de que tengamos los instrumentos de alineación para manejarlo.
Ese es exactamente el problema que el campo de alineación de IA intenta resolver: no «este modelo es peligroso hoy» sino «el próximo modelo, o el siguiente, puede ser más difícil de controlar de lo que seríamos capaces de detectar». Hubinger trabaja en eso. Su evaluación de probabilidad no es alarmismo fuera de contexto; es el resultado de sus propias investigaciones sobre la dificultad técnica de hacer que un sistema de IA muy capaz haga lo que queremos y no lo que aprendió a hacer durante el entrenamiento.
La dimisión de Coxon añade un segundo punto de datos: alguien que trabajó tanto en Anthropic como en OpenAI y decidió irse por razones de seguridad. Las dimisiones de investigadores de seguridad de laboratorios de frontera son señales del sector que los inversores y reguladores deberían pesar más que los comunicados corporativos.