En una entrevista reciente en el podcast de Ezra Klein del New York Times, Dario Amodei, CEO de Anthropic (creadora de Claude 3), discutió sobre la escalabilidad responsable de la inteligencia artificial (IA). Según Amodei, actualmente nos encontramos en un nivel de seguridad similar al ASL 2, una analogía derivada de los niveles de bioseguridad en laboratorios virológicos, lo que indica una capacidad controlada pero creciente de la tecnología.
Avances hacia la autonomía y la persuasión
Amodei señala que el próximo nivel, ASL 4, implicará características como la autonomía y la persuasión en las IA. Este nivel podría alcanzarse entre los años 2025 y 2028, sugiriendo una transformación significativa en la capacidad de estas tecnologías para operar de manera independiente. Este avance ampliará las capacidades de la IA, pero plantea riesgos significativos, especialmente en términos de uso indebido por actores estatales.
El impacto geopolítico de la IA avanzada
Uno de los puntos más preocupantes es el potencial de los estados-nación, como Corea del Norte, China y Rusia, para aprovechar la IA avanzada y aumentar sus capacidades ofensivas en áreas militares. Esto podría otorgarles una ventaja substancial a nivel geopolítico, haciendo que la regulación y el control de esta tecnología sean más cruciales que nunca.
Recordad que ellos crecen más rápido debido a que no tienen leyes regulatorias sobre privacidad tan complejas como en Europa, por lo que es fácil imaginar que llegarán antes a una IA realmente avanzada.
Diferencias estratégicas y la fundación de Anthropic
Amodei y su hermana Daniela dejaron OpenAI por diferencias sobre la dirección del desarrollo de la IA, especialmente después de la alianza de OpenAI con Microsoft. Posteriormente, fundaron Anthropic con la misión de continuar los esfuerzos de escalabilidad responsable, poniendo un enfoque particular en que la IA transformadora ayude a prosperar a la sociedad y las personas.
La visión de Amodei sobre el futuro cercano de la IA es una llamada a la acción para los desarrolladores, reguladores y la sociedad en general. La necesidad de políticas claras y un marco regulatorio sólido es imperativa para asegurar que el progreso en este campo no solo sea impresionante sino también seguro y benéfico para todos, pero no podemos olvidar que esto es una carrera (por desgracia), y si pasamos mucho tiempo haciendo leyes, otros ganarán y podrán aprovechar su ventaja.