El pionero de la inteligencia artificial, Jeffrey Hinton, dijo a Reuters en una entrevista el viernes que la inteligencia artificial podría representar una amenaza “más urgente” para la humanidad que el cambio climático.
Jeffrey Hinton, ampliamente conocido como uno de los “padrinos de la inteligencia artificial”, anunció recientemente que dejará Alphabet después de una década en la empresa, diciendo que quiere hablar sobre los peligros de la tecnología sin afectar a su antiguo empleador.
El trabajo de Hinton se considera esencial para el desarrollo de los sistemas de IA contemporáneos. En 1986, fue coautor del artículo seminal Representaciones de aprendizaje por errores de retropropagación, un hito en el desarrollo de redes neuronales que sustentan la tecnología de IA. En 2018, recibió el Premio Turing en reconocimiento a sus logros de investigación.
Pero ahora se encuentra entre un número creciente de líderes tecnológicos que expresan públicamente su preocupación por la amenaza potencial que representa la inteligencia artificial si las máquinas logran una inteligencia mayor que la de los humanos y controlan el planeta.
“No quiero minimizar el cambio climático. No quiero decir: ‘No tienes que preocuparte por el cambio climático'”. “Eso también es muy arriesgado”, dijo Hinton, “pero creo que esto podría volverse más urgente”.
Agregó: “Con el cambio climático, es muy fácil recomendar lo que debe hacer: simplemente dejar de quemar carbono. Si hace eso, eventualmente las cosas estarán bien. Es por eso que no está del todo claro lo que debe hacer”.
OpenAI, respaldado por Microsoft, disparó el pistoletazo de salida en una carrera armamentista tecnológica en noviembre, cuando puso a disposición del público su Chatbot ChatGPT impulsado por IA. Rápidamente se convirtió en la aplicación de más rápido crecimiento en la historia, alcanzando los 100 millones de usuarios mensuales en dos meses.
En abril, el director ejecutivo de Twitter, Elon Musk, se unió a miles de personas para firmar una carta abierta en la que pedía una pausa de seis meses en el desarrollo de sistemas más potentes que el recientemente lanzado GPT-4 de OpenAI.
Entre los firmantes se encuentran el CEO de Stability AI, Emad Mostaque, los investigadores de DeepMind, propiedad de Alphabet, y los pioneros de AI Yoshua Bengio y Stuart Russell.
Si bien Hinton comparte la preocupación de los signatarios de que la inteligencia artificial pueda resultar una amenaza existencial para la humanidad, no está de acuerdo en detener la búsqueda.
“Es totalmente irreal”, dijo. “Estoy en el campo que piensa que esto es un riesgo existencial, y está lo suficientemente cerca como para que tengamos que trabajar muy duro ahora y poner muchos recursos para descubrir qué podemos hacer al respecto”.
En la Unión Europea, un panel de legisladores respondió a la carta respaldada por Musk, pidiendo al presidente de los Estados Unidos, Joe Biden, que celebre una cumbre mundial sobre la dirección futura de la tecnología con la presidenta de la Comisión Europea, Ursula von der Leyen.
La semana pasada, el comité aprobó un conjunto exclusivo de propuestas dirigidas a la IA generativa, lo que obligaría a empresas como OpenAI a divulgar cualquier material con derechos de autor utilizado para entrenar sus modelos.
Mientras tanto, Biden sostuvo conversaciones con varios líderes de empresas de inteligencia artificial, incluido el director ejecutivo de Alphabet, Sundar Pichai, y el director ejecutivo de OpenAI, Sam Altman, en la Casa Blanca, y prometió tener una “discusión franca y constructiva” sobre la necesidad de que las empresas sean más transparentes sobre su sistemas
“Los líderes tecnológicos son los que mejor lo entienden y los políticos deben involucrarse”, dijo Hinton. “Nos afecta a todos, así que todos tenemos que pensar en ello”.
© Thomson Reuters 2023