El Congreso de los Estados Unidos ha implementado restricciones estrictas en el uso de herramientas de inteligencia artificial generativa, como ChatGPT, según informes de Axios. El objetivo es prevenir la filtración de datos sensibles y garantizar el uso responsable de estas tecnologías. Las limitaciones afectan a los empleados del Congreso, quienes solo pueden utilizar el servicio de pago ChatGPT Plus con controles de privacidad más rigurosos y exclusivamente para «investigación y evaluación». Además, se prohíbe el acceso a datos no públicos y se exige la activación manual de las funciones de privacidad para evitar que las interacciones alimenten el modelo de IA. Esta política busca evitar incidentes como el uso de anuncios generados por IA con fines políticos y la filtración de datos confidenciales. A continuación, exploraremos los detalles clave de esta restricción y sus implicaciones.
Restricciones en el uso de IA generativa
La Administradora del Congreso, Catherine Szpindor, emitió un memo detallando las restricciones para el uso de ChatGPT y otros modelos de IA generativa en las oficinas del Congreso. Estas restricciones buscan salvaguardar la privacidad y evitar posibles abusos. Los empleados solo pueden utilizar la versión de pago, ChatGPT Plus, debido a sus mayores controles de privacidad. Sin embargo, su uso está limitado a actividades de «investigación y evaluación», y no puede formar parte de las tareas diarias del personal.
Incluso con la versión de pago, el uso de ChatGPT está restringido a datos de acceso público. Para prevenir la recopilación de datos adicionales, las funciones de privacidad deben activarse manualmente. Esto evita que las interacciones con el chatbot alimenten el modelo de IA. Cabe destacar que la versión gratuita de ChatGPT y otros modelos de lenguaje similares no están permitidos actualmente.
Preocupaciones y justificación
La implementación de estas restricciones no es sorprendente, dado que diversas instituciones y empresas han advertido sobre los riesgos asociados con el uso de IA generativa. En el pasado, se ha criticado a los republicanos por utilizar anuncios generados por IA, y se han reportado filtraciones de datos confidenciales asociadas con el uso de ChatGPT en Samsung. En entornos académicos también se han prohibido estos sistemas debido a preocupaciones de trampas y fraudes académicos. Por lo tanto, las restricciones en el Congreso buscan evitar problemas similares, como la redacción de legislación y discursos generados por IA.
Regulación del uso de IA en el Congreso
Estas políticas restrictivas del Congreso pueden recibir un amplio apoyo, ya que ambas cámaras legislativas están trabajando para regular y supervisar el uso de la IA. En la Cámara de Representantes, el Representante Ritchie Torries ha presentado un proyecto de ley que exigiría advertencias en el uso de IA generativa, mientras que la Representante Yvette Clark busca establecer requisitos similares para los anuncios políticos. Los senadores también han llevado a cabo audiencias sobre la IA y han propuesto un proyecto de ley para responsabilizar a los desarrolladores de IA por el contenido perjudicial producido a través de sus plataformas.
La implementación de restricciones en el uso de IA generativa en el Congreso de los Estados Unidos es un paso importante para abordar los desafíos y riesgos asociados con estas tecnologías. A medida que la IA continúa avanzando, es esencial establecer regulaciones y salvaguardias adecuadas para garantizar su uso ético y responsable. Si bien estas restricciones pueden limitar las capacidades de los empleados del Congreso, también brindan protección contra posibles filtraciones de datos y abusos. La privacidad y la seguridad de la información deben ser prioridades, especialmente en entornos gubernamentales.