El pionero de la inteligencia artificial Geoffrey Hinton habla en la Cumbre Financiera y de Riesgos de Thomson Reuters en Toronto, el 4 de diciembre de 2017.
marca parpadeo | Reuters
Geoffrey Hinton, conocido como “El Padrino de la IA”, recibió su Ph.D. en inteligencia artificial hace 45 años y se ha mantenido como una de las voces más respetadas en el campo.
Durante la última década, Hinton trabajó medio tiempo en Google, entre la sede de la empresa en Silicon Valley y Toronto. Pero renunció al gigante de Internet y le dijo al New York Times que advertirá al mundo sobre la amenaza potencial de la IA, que dijo que llegará antes de lo que pensaba anteriormente.
noticias relacionadas con inversiones
“Pensé que faltaban entre 30 y 50 años o incluso más”, dijo Hinton al Times, en un artículo publicado el lunes. “Obviamente, ya no pienso eso”.
Hinton, quien fue nombrado ganador del Premio Turing 2018 por avances conceptuales y de ingeniería, dijo que ahora se arrepiente del trabajo de su vida, informó el Times, citando los riesgos a corto plazo de que la IA tome trabajos y la proliferación de fotos, videos y videos falsos. texto que parece real para la persona promedio.
En una declaración a CNBC, Hinton dijo: “Ahora creo que las inteligencias digitales que estamos creando son muy diferentes de las inteligencias biológicas”.
Hinton hizo referencia al poder de GPT-4, el modelo de lenguaje grande (LLM) más avanzado de la startup OpenAI, cuya tecnología se ha vuelto viral desde que se lanzó el chatbot ChatGPT a fines del año pasado. Así es como describió lo que está sucediendo ahora:
“Si tengo 1000 agentes digitales que son todos clones exactos con pesos idénticos, cada vez que un agente aprende a hacer algo, todos lo saben de inmediato porque comparten pesos”, dijo Hinton a CNBC. “Los agentes biológicos no pueden hacer esto. Por lo tanto, las colecciones de agentes digitales idénticos pueden adquirir mucho más conocimiento que cualquier agente biológico individual. Es por eso que GPT-4 sabe mucho más que cualquier persona”.
Hinton estaba haciendo sonar la alarma incluso antes de dejar Google. En una entrevista con CBS News que se emitió en marzo, se le preguntó a Hinton cuáles cree que son las “posibilidades de que la IA acabe con la humanidad”. Él respondió: “No es inconcebible. Eso es todo lo que diré”.
El CEO de Google, Sundar Pichai, también advirtió públicamente sobre los riesgos de la IA. Le dijo a “60 Minutos” el mes pasado que la sociedad no está preparada para lo que viene. Al mismo tiempo, Google está mostrando sus propios productos, como robots de autoaprendizaje y Bard, su competidor ChatGPT.
Pero cuando se le preguntó si “el ritmo del cambio puede superar nuestra capacidad de adaptación”, Pichai minimizó el riesgo. “No lo creo. Somos una especie de especie infinitamente adaptable”, dijo.
Durante el año pasado, Hinton redujo su tiempo en Google, según un documento interno visto por CNBC. En marzo de 2022, pasó al 20% de tiempo completo. Más adelante en el año, fue asignado a un nuevo equipo dentro de Brain Research. Su cargo más reciente fue vicepresidente y compañero de ingeniería, reportando a Jeff Dean dentro de Google Brain.
En un comunicado enviado por correo electrónico a CNBC, Dean dijo que apreciaba a Hinton por “su década de contribuciones en Google”.
“¡Lo extrañaré y le deseo lo mejor!” Decano escribió. “Como una de las primeras empresas en publicar los Principios de IA, seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente”.
La partida de Hinton es una pérdida de alto perfil para Google Brain, el equipo detrás de gran parte del trabajo de la compañía en IA. Hace varios años, según los informes, Google gastó $ 44 millones para adquirir una empresa iniciada por Hinton y dos de sus estudiantes en 2012.
Su grupo de investigación logró importantes avances en el aprendizaje profundo que aceleró el reconocimiento de voz y la clasificación de objetos. Su tecnología ayudaría a formar nuevas formas de usar la IA, incluidos ChatGPT y Bard.
Google ha reunido equipos en toda la empresa para integrar la tecnología de Bard y los LLM en más productos y servicios. El mes pasado, la compañía dijo que fusionaría Brain con DeepMind para “acelerar significativamente nuestro progreso en IA”.
Según el Times, Hinton dijo que renunció a su trabajo en Google para poder hablar libremente sobre los riesgos de la IA. Le dijo al periódico: “Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”.
Hinton tuiteó el lunes, “Me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado de manera muy responsable”.
