La Inteligencia Artificial (IA) es una tecnología que avanza a un ritmo acelerado en la actualidad y que puede tener enormes beneficios para la humanidad. Sin embargo, su rápido avance también puede llevar a consecuencias negativas, como ha alertado Geoffrey Hinton, uno de los pioneros en el campo de la IA. En una entrevista reciente, Hinton ha expresado su preocupación acerca de los peligros potenciales de la IA, sugiriendo que podrían ser incluso mayores que los de cambio climático. En este artículo explicaremos los argumentos que ha expuesto Hinton y por qué sus palabras son dignas de atención.
Los peligros de la IA
Hinton no subestima la importancia del cambio climático, pero sostiene que la IA puede ser aún más urgente en términos de los peligros que plantea. Según él, aunque es fácil recomendar medidas para combatir el cambio climático, como dejar de quemar combustibles fósiles, no está claro qué medidas deberían tomarse para prevenir los riesgos de la IA. Por ejemplo, ¿cómo se pueden evitar los posibles daños que podría causar la creación de robots o algoritmos capaces de tomar decisiones sin la intervención humana? ¿Cómo podemos asegurarnos de que la IA no se use para fines malintencionados o inmorales?
Para Hinton, estos son problemas que deberían abordarse de manera urgente. Aunque reconoce que algunos líderes de la industria de la tecnología han expresado preocupaciones similares, también cree que hay una necesidad urgente de poner más recursos en encontrar soluciones.
La carta abierta y la pausa en la investigación
En abril, varios líderes tecnológicos e influyentes firmaron una carta abierta en la que se pedía una pausa de seis meses en el desarrollo de sistemas más potentes que el GPT-4 de OpenAI. Hinton comparte las preocupaciones de los signatarios de la carta, pero no está de acuerdo en suspender la investigación. Según él, esto no es una solución factible y es necesario seguir investigando, pero también trabajar en soluciones para los peligros potenciales de la IA.
En respuesta a la carta abierta, un comité de legisladores de la Unión Europea solicitó al presidente de Estados Unidos, Joe Biden, que convocara una cumbre mundial sobre el futuro de la IA con la presidenta de la Comisión Europea, Ursula von der Leyen. Como resultado, el comité llegó a un acuerdo histórico de propuestas que apuntan a la generación de la IA, que podrían obligar a las empresas de IA a divulgar cualquier material con derechos de autor utilizado para entrenar sus modelos.
La necesidad de transparencia
Hinton también ha elogiado la iniciativa de Biden de hablar con varios líderes de empresas de IA, en la que prometió una «discusión franca y constructiva» sobre la necesidad de que las empresas sean más transparentes en cuanto a sus sistemas. Según él, la transparencia es un aspecto crucial en la creación de sistemas de IA que sean seguros y éticos. Además, Hinton cree que la IA no es solo un problema para la industria de la tecnología, sino que afecta a todos, por lo que es importante que tanto la industria como los políticos se involucren en encontrar soluciones.
La IA es una tecnología emocionante y llena de promesas, pero también plantea riesgos significativos que no deben ser ignorados. Geoffrey Hinton ha expresado su preocupación por la posibilidad de que la IA se convierta en una amenaza existencial para la humanidad, y sus argumentos merecen ser tomados en serio. Es importante que la industria de la tecnología y los responsables políticos trabajen juntos para abordar estos peligros y encontrar soluciones que aseguren que la IA se use de manera responsable y segura. Al igual que con cualquier tecnología nueva y poderosa, la IA debe ser desarrollada y utilizada con precaución y responsabilidad para maximizar sus beneficios y minimizar sus riesgos.