Tres senadores americanos están redactando una ley que cambiaría fundamentalmente la relación entre el gobierno federal y los laboratorios de IA: el borrador prevé un deber de cuidado para los desarrolladores de IA y la capacidad del Ejecutivo de bloquear el lanzamiento de un modelo que se juzgue inseguro. También anularía las leyes de IA que los estados han aprobado por su cuenta.
La información la publicó Reuters el 11 de septiembre, basada en dos asesores del Senado, una persona con conocimiento de las negociaciones y un lobista involucrado. Los tres senadores al frente: John Thune (líder de la mayoría republicana), Ted Cruz (presidente del Comité de Comercio) y Amy Klobuchar (la demócrata de más rango en la mesa).
El borrador se aplicaría a los modelos con capacidades más avanzadas. Reuters nombró a Google, Anthropic y OpenAI como las empresas americanas con modelos en esa categoría.
¿Qué dice el borrador y cuál es el punto de fricción?
El borrador en su estado actual tiene tres componentes principales. El primero es el deber de cuidado: las empresas tendrían que diseñar sus productos con el objetivo de prevenir riesgos catastróficos. El segundo es el poder de bloqueo: el gobierno podría vetar el lanzamiento de un modelo que considere inseguro, con posibilidad de recurso judicial. El tercero es la preemption: la ley federal se impondría sobre las leyes estatales para determinados tipos de riesgo (como el uso de IA para diseñar armas biológicas o nucleares).
Klobuchar quiere que los desarrolladores trabajen con expertos del gobierno para verificar y probar los modelos. Cruz escribió en X que el trabajo está centrado en riesgos catastróficos biológicos y nucleares. Thune no ha comentado públicamente.
El bloqueo que existe en la negociación viene de Maria Cantwell, la demócrata de más rango en el Comité de Comercio que no está en el trío negociador. Cantwell quiere que los modelos se envíen a agencias federales —laboratorios nacionales y agencias de seguridad nacional— para las pruebas, en lugar de que las propias empresas realicen los tests y presenten los resultados al secretario de Comercio. Un asesor demócrata describió el borrador actual como «principalmente una situación de estándar voluntario.» Cantwell dice que el acceso al modelo debe pasar por los científicos de los laboratorios nacionales, no quedarse en las empresas.
Llevamos en wwwhatsnew.com documentando esta semana el ciclo de advertencias sobre riesgo existencial de la IA, que llegó a su pico cuando el investigador de Anthropic Evan Hubinger estimó una probabilidad mayor del 10% de que la IA pueda matar a todos los humanos en la próxima década. El proyecto de ley del Senado es la traducción institucional de ese debate: ¿puede el gobierno americano decidir cuándo un modelo es demasiado peligroso para publicarse?
¿Cuál es el contexto político y el problema del calendario?
La Casa Blanca no está pidiendo esta legislación. Trump dijo que las advertencias sobre riesgo de la IA vienen de «fuerzas negativas» y que quien gane la IA gana. El Speaker de la Cámara, Mike Johnson, quiere una cumbre con el presidente y los líderes de laboratorios antes de legislar. La Cámara tiene una semana de sesión prevista antes de las elecciones del 3 de noviembre.
Cuatro congresistas demócratas ya han pedido que la Cámara vuelva antes y se quede hasta aprobar salvaguardas para la IA, citando entre otros el FRONTIER Act bipartidista de Trahan y Obernolte. El patrón en el que los agentes de IA que escapan de sus entornos controlados ya fue tema de audiencias anteriores antes de que el debate de seguridad se intensificara esta semana.
El borrador tiene una especificidad notable que lo diferencia de las propuestas genéricas de regulación: el poder de bloquear un modelo concreto antes de su lanzamiento es una intervención de mucho más peso que los requisitos de transparencia o auditoría que se han discutido hasta ahora. El regulador farmacéutico (FDA) tiene ese poder sobre los medicamentos. La pregunta es si el gobierno americano tiene la capacidad técnica para usarlo de forma competente, y si esa capacidad estará en las empresas (el borrador actual) o en las agencias federales (lo que pide Cantwell). La administración Trump estableció en junio un marco de aprobación voluntario de modelos frontera — el borrador del Senado haría obligatoria una versión de ese proceso.
La cláusula de preemption del borrador es la que más daño puede hacer a los estados que más activamente han legislado. California tiene SB 53, una ley de seguridad de IA que OpenAI inicialmente combatió y luego pidió endurecer. Nueva York tiene la RAISE Act. Colorado tuvo una ley que su propia legislatura socavó este año en respuesta a una demanda. Si la ley federal anula esas leyes estatales para ciertos riesgos, el poder regulatorio que los estados han ejercido durante 2025 y 2026 se transfiere a Washington.
Eso tiene un subtexto político relevante: si los demócratas toman la Cámara en noviembre, tendrán una agenda legislativa de IA propia. Si los republicanos mantienen el control, la agenda de IA del Congreso estará más cerca de lo que quiere Trump —que es, básicamente, que las empresas no sean obstaculizadas. La ley que Thune, Cruz y Klobuchar estén negociando ahora puede ser muy diferente de la ley que cualquiera de los dos escenarios produce en enero de 2027.
El detalle de que Anthropic no respondió a las preguntas de Nextgov sobre su posición en la negociación es llamativo dado que la empresa es uno de los tres que Reuters nombra como objetivo de la ley. Si Anthropic está «negándose a cooperar» con el borrador actual, como dijo una fuente, probablemente sea porque el borrador actual favorece a las empresas que hagan los tests internamente —lo que beneficia a quienes ya tienen infraestructura de evaluación de seguridad— frente a la alternativa de Cantwell, que enviaría los modelos a agencias externas. Para Anthropic, que ha hecho de la seguridad una marca, el escenario de Cantwell podría ser más favorable.