La regulación de la Inteligencia Artificial ha sido objeto de creciente preocupación en el ámbito global. La Unión Europea está liderando el camino al implementar la primera legislación exhaustiva sobre inteligencia artificial en el mundo.
Desde su propuesta original en abril de 2021, la Ley de IA ha avanzado significativamente en el proceso legislativo, y ahora los tres cuerpos legislativos de la UE están en camino de negociar los detalles finales antes de su promulgación como ley. Stanford HAI (Instituto de Inteligencia Artificial de Stanford) convocó a expertos para analizar los aspectos más finos de esta regulación, y aquí presentamos algunos de los puntos destacados de su debate.
El «diálogo tripartito», un camino hacia la promulgación de la Ley de IA
El proceso legislativo de la UE implica una fase de «diálogo tripartito» entre la Comisión Europea, el Consejo Europeo y el Parlamento Europeo para llegar a un acuerdo final sobre la Ley de IA. Una vez que se logre este acuerdo, la legislación podría entrar en vigor en los próximos años, lo que marcará un hito importante en la regulación de la IA a nivel mundial.
Desacuerdos potenciales entre los cuerpos legislativos
Uno de los principales puntos de desacuerdo entre los legisladores de la UE es el uso de la IA para la vigilancia biométrica en espacios públicos. Mientras que el Parlamento Europeo introdujo prohibiciones para limitar el uso de la IA en fuerzas del orden, los gobiernos de los estados miembros podrían oponerse a esta medida en el Consejo.
Otro aspecto de desacuerdo es la definición de IA de alto riesgo. El Parlamento Europeo aboga por una definición más amplia de los casos de uso para la IA de alto riesgo, mientras que el Consejo preferiría una definición más acotada.
La gobernanza también será objeto de debate, incluidos temas como la implementación, el cumplimiento y la coordinación entre los diferentes países miembros.
Evaluación del cumplimiento de las empresas tecnológicas
Se ha estudiado cómo los proveedores de modelos de IA cumplen con el borrador de la Ley de IA propuesta. Algunas áreas en las que no cumplen incluyen la divulgación de datos protegidos por derechos de autor utilizados para entrenar modelos, informes desiguales sobre el uso de energía, falta de mitigación de riesgos y ausencia de estándares de evaluación o procedimientos de auditoría.
Aspectos faltantes en la Ley de IA
Uno de los aspectos que se echa en falta en el borrador de la Ley de IA es la consideración del uso específico del modelo. Dependiendo del propósito para el que se utilice la IA, se pueden requerir diferentes niveles de transparencia y evaluación.
Además, la ley actual se centra en los usos posteriores de los modelos, pero no aborda otros aspectos de la cadena de suministro, como la construcción de conjuntos de datos y métodos de entrenamiento.
Finalmente, la falta de acceso a los modelos para que los investigadores los evalúen y valoren es un aspecto primordial que debe ser abordado.
Necesidades de las empresas tecnológicas para cumplir con la Ley de IA
Las empresas tecnológicas necesitan más aclaraciones en tres áreas clave. En primer lugar, requieren una definición clara del requisito legal de transparencia y cómo documentar conjuntos de datos, modelos y procesos. En segundo lugar, necesitan acceso a los sistemas para realizar evaluaciones y salvaguardias, independientemente de si el modelo es de código abierto o cerrado. En tercer lugar, es necesario establecer estándares sólidos de evaluación para abordar aspectos como el sesgo en los modelos de lenguaje.
Impacto en EE. UU. y posibles soluciones
La aprobación de la Ley de IA de la UE podría tener un impacto en Estados Unidos, ya que existe una disparidad creciente entre el enfoque de regulación de IA de ambas regiones. Mientras que la UE avanza en la regulación, Estados Unidos aún carece de una legislación similar.
Los expertos aconsejan a los legisladores estadounidenses comprender la Ley de la UE y buscar estándares alineados para facilitar la implementación de futuras leyes en Estados Unidos.
Camino hacia la convergencia entre EE. UU. y la UE
A pesar de las diferencias en los detalles de la legislación, algunos de los especialistas convocados por Stanford creen que existe una oportunidad para construir una convergencia entre Estados Unidos y la UE. Al alinearse en principios y estándares, ambas regiones podrían avanzar hacia una regulación más coherente de la IA.
De este diálogo entre especialistas en la materia, se desprende como conclusión que todavía hay desafíos por delante y aspectos que deben abordarse para garantizar una regulación efectiva y responsable de la IA. Al aprender de la experiencia de la UE, otros países, incluidos Estados Unidos, pueden encontrar caminos para una regulación más adecuada de esta tecnología en rápida evolución.