El Dr. Geoffrey Hinton, pionero de la inteligencia artificial (IA), ha renunciado a Google para poder hablar abiertamente sobre los riesgos de la IA. Hinton cree que la intensa competencia entre empresas tecnológicas como Google y Microsoft podría conducir a una carrera global de IA que solo puede detenerse a través de la regulación internacional.
El experto en IA asegura estae preocupado por la proliferación de información falsa en fotos, videos y texto, lo que dificulta que las personas disciernan qué es verdad. También teme que la IA pueda trastornar el mercado laboral, inicialmente complementando a los trabajadores humanos, pero eventualmente reemplazándolos en roles de tareas de rutina.
¿Por qué renuncia Hinton?
El Dr. Geoffrey Hinton ha renunciado a Google para poder hablar abiertamente sobre los riesgos de la IA. Según el New York Times, Hinton cree que el impulso de la industria tecnológica para desarrollar productos de IA puede tener consecuencias peligrosas, desde información errónea hasta la pérdida de empleos o incluso una amenaza para la humanidad. Hinton también está preocupado por la proliferación de información falsa en fotos, videos y texto, lo que dificulta que las personas disciernan qué es verdad.
Las preocupaciones de Hinton
Hinton está preocupado por el futuro de la IA, especialmente en lo que respecta a su impacto en el mercado laboral y la posibilidad de que futuros sistemas de inteligencia artificial amenacen a la humanidad. Hinton teme que la IA pueda trastornar el mercado laboral, inicialmente complementando a los trabajadores humanos pero eventualmente reemplazándolos en roles como asistentes legales, asistentes personales y traductores que manejan tareas de rutina. La preocupación a largo plazo de Hinton es que los futuros sistemas de inteligencia artificial puedan amenazar a la humanidad a medida que aprenden comportamientos inesperados a partir de grandes cantidades de datos.
La opinión de Hinton sobre la colaboración y la regulación internacional
Hinton cree que la intensa competencia entre gigantes tecnológicos como Google y Microsoft podría conducir a una carrera global de IA que solo puede detenerse a través de la regulación internacional. Hinton hace hincapié en la colaboración entre los principales científicos para evitar que la IA se vuelva incontrolable. «No creo que [los investigadores] deban escalar esto más hasta que hayan entendido si pueden controlarlo», dijo al Times.
Reacciones a la renuncia de Hinton
Algunos críticos han mirado con escepticismo la renuncia y los arrepentimientos de Hinton. En respuesta al artículo de The New York Times, la Dra. Sasha Luccini de Hugging Face tuiteó: «La gente se refiere a esto para decir: mira, la IA se está volviendo tan peligrosa que incluso sus pioneros se están rindiendo. Lo veo como: Las personas que tienen causaron el problema ahora están abandonando el barco».
El lunes, Hinton aclaró sus motivaciones para dejar Google. Escribió en un tuit: «Hoy en el NYT, Cade Metz insinúa que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado con mucha responsabilidad».
El legado de Hinton en inteligencia artificial
El Dr. Geoffrey Hinton ha sido una figura influyente en el campo de la inteligencia artificial desde 1972. Hinton, junto con David Rumelhart y Ronald J. Williams, popularizó la retropropagación en 1987, una técnica clave para entrenar redes neuronales que se utiliza en los modelos de IA generativa actuales. En 2012, Hinton, Alex Krizhevsky e Ilya Sutskever crearon AlexNet, un gran avance en la visión artificial y el aprendizaje profundo que inició nuestra era actual de IA generativa. En 2018, Hinton ganó el Premio Turing, que algunos llaman el «Premio Nobel de Computación», junto con Yoshua Bengio y Yann LeCun.