Empleados de Amazon han usado ChatGPT para optimizar su código, lo que requiere dar información confidencial al famoso bot de OpenAI.
Eso no tendría ninguna relevancia si no fuera porque esos datos confidenciales que han metido, han servido como entrenamiento para el sistema, y se ha detectado que parte de esos secretos se han recomendado a otras personas que no tenían relación con ChatGPT.
Así lo muestran en insider, donde muestran un comunicado interno de la compañía donde Amazon ruega a los empleados que no compartan información confidencial con ChatGPT.
De esta forma, Amazon está tratando de evitar que sus empleados filtren información confidencial a la herramienta de procesamiento del lenguaje natural, y todo porque detectaron fragmentos de texto generados por la herramienta que se parecían mucho a los secretos de la compañía. Los empleados siguen usando ChatGPT como «asistente de codificación» para ayudarlos a escribir o mejorar cadenas de código, pero en ningún lado se puede pedir a ChatGPT que no use esa información como entrenamiento para mejorar su plataforma.
Por otro lado, Amazon ya está desarrollando un sistema semejante a ChatGPT para el código, por lo que el problema ahora se puede resumir en dos puntos:
– Datos confidenciales: Si los empleados están utilizando el algoritmo de ChatGPT para mejorar el código interno existente, es probable que el algoritmo esté exponiendo datos confidenciales de la empresa. Esto podría permitir que terceros obtengan acceso a información confidencial, lo que podría causar un gran daño a la empresa.
– Competencia: Si Amazon está desarrollando una tecnología similar a ChatGPT, es posible que los empleados que están trabajando en ese proyecto estén expuestos a información confidencial que podría ser utilizada por la competencia.
Acceder a la información confidencial de una empresa usando ChatGPT es prácticamente imposible, pero sí es cierto que todo lo que damos a ChatGPT acabará siendo, tarde o temprano, publicado en algún lugar.