La Unión Europea ha dado un paso significativo hacia el establecimiento de un marco legal para la inteligencia artificial (IA). Este movimiento es crucial para el presente, al mismo tiempo que allana el camino para el futuro de esta tecnología disruptiva.
La reciente decisión de la Unión Europea de implementar una legislación integral para regular la IA representa un avance significativo. La ley tiene como objetivo principal garantizar que los sistemas de IA utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores europeos. Esta medida coloca a Europa a la vanguardia de la regulación tecnológica, estableciendo un precedente que podría influir en futuras legislaciones a nivel global.
Una característica distintiva de esta ley es su diseño «a prueba del futuro». Es esencial que la legislación pueda adaptarse a nuevas tecnologías y cambios. Esta flexibilidad es fundamental para mantener el ritmo de innovación y asegurar que la ley siga siendo relevante en los años venideros.
El desafío de equilibrar la innovación con la protección de los derechos fundamentales ha sido un tema central en el desarrollo de esta ley. Es imprescindible que, mientras fomentamos el avance tecnológico, también protejamos los valores y derechos individuales. Este equilibrio es crucial para el desarrollo ético y responsable de la IA.
Un aspecto crítico de esta nueva legislación es el sistema de supervisión y sanciones. La creación de una Oficina de IA, vinculada a la Comisión Europea, asegurará el cumplimiento efectivo de la ley. Este órgano supervisará las actividades relacionadas con la IA y aplicará sanciones cuando sea necesario, asegurando así que la legislación no quede solo en papel.
La ley pone especial atención en la regulación de modelos generativos y sistemas de vigilancia biométrica. Estos aspectos de la IA han generado debates éticos y preocupaciones sobre privacidad. La ley establece normativas claras y específicas para garantizar que su uso no vulnere los derechos fundamentales.
Otra faceta importante es la exigencia de transparencia en los modelos generativos. Es fundamental que se especifique cuando un contenido ha sido generado por IA, además de garantizar que los datos usados en estos sistemas respeten los derechos de autor.
La implementación de esta ley será gradual, lo que permite una transición ordenada y efectiva hacia un marco regulador más robusto. Algunas partes de la ley entrarán en vigor antes que otras, asegurando un proceso de adaptación coherente tanto para los desarrolladores de IA como para los usuarios finales.
#TRILOGUE | DEAL! DEAL! DEAL! @EUCouncil and @Europarl_EN have reached a provisional agreement on the artificial intelligence act #AIAct
The regulation aims to ensure that AI systems placed and used in the EU are safe and respect fundamental rights and european values. pic.twitter.com/F1YoFf5x60
— España en la UE (@EspanaenUE) December 8, 2023
Resumen de la ley
Hay cinco prohibiciones y dos regulaciones más estrictas. Lo podemos resumir en:
Prohibiciones
- Categorización Biométrica: Quedan prohibidos los sistemas de IA que categorizan a las personas según sus creencias políticas, religiosas, filosóficas, orientación sexual o raza.
- Bases de Datos Faciales: Está prohibido el uso de IA para expandir o crear bases de datos faciales mediante la captura indiscriminada de datos a través de internet, grabaciones audiovisuales o televisión.
- Reconocimiento de Emociones: Se prohíbe el uso de sistemas de IA para el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
- Social Scoring: Se prohíben los sistemas de IA que asignan puntuaciones a las personas basadas en su comportamiento social o características personales.
- Manipulación de Comportamiento y Explotación de Vulnerabilidades: Se prohíben los sistemas de IA diseñados para manipular el comportamiento humano o explotar vulnerabilidades específicas de las personas, como la edad, situación social o económica.
Regulaciones Estrictas
- Vigilancia Biométrica en Tiempo Real: Aunque permitidos, los sistemas de vigilancia biométrica en tiempo real en espacios públicos estarán estrictamente limitados. Su uso solo será posible por las fuerzas del orden bajo estrictas salvaguardias y con autorización judicial para casos específicos.
- Modelos de IA Generativa: Los sistemas basados en modelos generativos, como ChatGPT, deberán cumplir con criterios de transparencia. Esto incluye especificar cuando un contenido (texto, canción, fotografía) ha sido generado mediante IA, y asegurarse de que los datos empleados para su entrenamiento respeten los derechos de autor. Esta parte será difícil de cumplir, ya que hoy por hoy es imposible saber si un texto ha sido generado por una IA o no.