En China, las autoridades han arrestado a un hombre por supuestamente utilizar la inteligencia artificial de ChatGPT para crear noticias falsas de un accidente de tren y difundirlas en línea. Esto ha sido reportado como el primer arresto por mal uso de ChatGPT en China.
Según los informes, el hombre detenido utilizó ChatGPT para generar noticias falsas de un accidente de tren, alegando que nueve personas habían muerto. Estas noticias falsas fueron publicadas en más de 20 cuentas en Baijiahao, una plataforma de estilo blog administrada por el gigante chino de búsqueda Baidu.
El uso de la inteligencia artificial para manipular información
Este caso, divulgado en gadgets360.com , ilustra el riesgo que conlleva el uso de la inteligencia artificial para manipular información. Con la tecnología actual, es posible generar noticias falsas en cuestión de segundos y difundirlas en línea a través de múltiples cuentas en diferentes plataformas. La difusión de noticias falsas puede ser perjudicial para la sociedad y puede tener graves consecuencias, como la manipulación de elecciones, el aumento de la polarización política y la violencia.
La regulación de la inteligencia artificial en China
Este es el primer caso de arresto por mal uso de ChatGPT en China, y llega después de que el gobierno chino introdujera regulaciones en enero de 2023 para controlar el uso de la tecnología deepfake. Sin embargo, la regulación de la inteligencia artificial en China es todavía limitada, y es probable que surjan más casos de uso indebido de la tecnología en el futuro.
La detención de este hombre por el uso indebido de ChatGPT demuestra la necesidad de regular el uso de la inteligencia artificial y de las tecnologías relacionadas. Es importante que las empresas de tecnología trabajen con los gobiernos y las organizaciones internacionales para desarrollar regulaciones adecuadas para el uso de estas tecnologías, aunque siempre veremos casos donde la tecnología está bastante por delante de las regulaciones.