Pionero de la inteligencia artificial renuncia a Google para advertir de los “peligros” de la tecnología

Según The New York Times, el pionero de la Inteligencia Artificial (IA), el Dr. Geoffrey Hinton, renunció a Google para poder “hablar libremente” sobre los riesgos potenciales que plantea la IA. Hinton, quien ayudó a crear parte de la tecnología fundamental detrás de los sistemas de IA generativos actuales, teme que el impulso de la industria tecnológica para desarrollar productos de IA pueda tener consecuencias peligrosas. Por ejemplo, desde información errónea hasta la pérdida de empleos o incluso una amenaza para la humanidad.

“Mira cómo era hace cinco años y cómo es ahora. Toma la diferencia y propágala hacia adelante. Eso da miedo”.

Geoffrey Hinton a The New York Time

El currículum de Hinton en inteligencia artificial se remonta a 1972 y sus logros han influido en las prácticas actuales en IA generativa. En 1987, Hinton, David Rumelhart y Ronald J. Williams popularizaron la retropropagación, una técnica clave para entrenar redes neuronales que se utiliza en los modelos de IA generativa actuales. 

En inteligencia artificial, las redes neuronales son sistemas similares al cerebro humano en la forma en que aprenden y procesan la información. Permiten que las IA aprendan de la experiencia, como lo haría una persona. Esto se llama aprendizaje profundo.

En 2012, Hinton, Alex Krizhevsky e Ilya Sutskever crearon AlexNet, que comúnmente se aclama como un gran avance en la visión artificial y el aprendizaje profundo, y podría decirse que inició nuestra era actual de IA generativa. En 2018, Hinton ganó el Premio Turing, que algunos llaman el “Premio Nobel de Computación”, junto con Yoshua Bengio y Yann LeCun.

Preocupaciones de Hinton

Hinton se unió a Google en 2013 después de que Google adquiriera la empresa de Hinton, DNNresearch. Su partida una década después marca un momento notable para la industria de la tecnología, ya que al mismo tiempo promociona y advierte sobre el impacto potencial de los sistemas de automatización cada vez más sofisticados. Por ejemplo, el lanzamiento de GPT-4 de OpenAI en marzo llevó a un grupo de investigadores tecnológicos a firmar una carta abierta pidiendo una moratoria de seis meses en el desarrollo de nuevos sistemas de IA “más potentes” que GPT-4. Sin embargo, algunos críticos notables piensan que tales temores son exagerados o están fuera de lugar.

Hinton no firmó esa carta abierta, pero cree que la intensa competencia entre gigantes tecnológicos como Google y Microsoft podría conducir a una carrera global de IA que solo puede detenerse a través de la regulación internacional. Hace hincapié en la colaboración entre los principales científicos para evitar que la IA se vuelva incontrolable.

“No creo que [los investigadores] deban escalar esto más hasta que hayan entendido si pueden controlarlo”.

Declaraciones a The New York Times.

Hinton también está preocupado por la proliferación de información falsa en fotos, videos y texto, lo que dificulta que las personas disciernan qué es verdad. También teme que la IA pueda trastornar el mercado laboral, inicialmente complementando a los trabajadores humanos pero eventualmente reemplazándolos en roles como asistentes legales, asistentes personales y traductores que manejan tareas de rutina.

Amenazas a la humanidad

La preocupación a largo plazo de Hinton es que los futuros sistemas de inteligencia artificial puedan amenazar a la humanidad a medida que aprenden comportamientos inesperados a partir de grandes cantidades de datos. 

“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían. Pero la mayoría de la gente pensó que estaba muy lejos. Y yo pensé que estaba muy lejos. Pensé que estaba lejos de 30 a 50 años o incluso más. Obviamente, ya no pienso eso”.

Las advertencias de Hinton se sienten notables porque, en un momento, fue uno de los mayores defensores del campo. En un perfil de Toronto Star de 2015, Hinton expresó su entusiasmo por el futuro de la IA y dijo: “No creo que me retire”. Pero hoy, The New York Times dice que la preocupación de Hinton por el futuro de la IA lo ha llevado a arrepentirse parcialmente del trabajo de su vida. “Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho otro”, dijo.

Algunos críticos han mirado con escepticismo la renuncia y los arrepentimientos de Hinton. En respuesta al artículo de The New York Times, la doctora Sasha Luccini de Hugging Face tuiteó: “La gente se refiere a esto para decir: mira, la IA se está volviendo tan peligrosa que incluso sus pioneros se están rindiendo. Lo veo como: Las personas que causaron el problema ahora están abandonando el barco”.

El lunes, Hinton aclaró sus motivaciones para dejar Google. Escribió en un tuit:

“Hoy en el NYT, Cade Metz insinúa que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado con mucha responsabilidad”.

“De hecho, quiero decir algunas cosas buenas sobre Google. Y son más creíbles si no trabajo para Google”.