Antes de que Illia Polosukhin se fuera Google En 2017, tuvo un almuerzo de lluvia de ideas y luego regresó a su escritorio para construir lo que pudo haber sido el primer transformador, la arquitectura de red neuronal que hace posible la inteligencia artificial generativa.
Actualmente, Polosukhin es considerado uno de los padres fundadores de la IA moderna.
Polosukhin coescribió el ahora famoso artículo de 2017, “La atención es todo lo que necesitas” junto con siete colegas de Google, que en conjunto se conocen como el “Transformer 8”. Siete de ellos aparecieron juntos en el escenario por primera vez en NVIDIAen la conferencia anual de desarrolladores en marzo, donde el CEO Jensen Huang dijo: “Todo lo que estamos disfrutando hoy se remonta a ese momento”.
Siete de los “Transformer 8” se unieron al director ejecutivo de Nvidia, Jensen Huang, en GTC, la conferencia anual de desarrolladores de Nvidia en San José el 20 de marzo de 2024. De izquierda a derecha: Lukasz Kaiser, Noam Shazeer, Aidan Gomez, Jensen Huang, Llion Jones, Jakob Uszkoreit , Ashish Vaswani e Illia Polosukhin.
NVIDIA
Polosukhin dijo que Google comenzó a utilizar transformadores en 2018 en Google Translate, lo que supuso una “mejora enorme”. Pero un uso ampliamente popular de la tecnología no se produjo hasta que OpenAI lanzó ChatGPT en noviembre de 2022.
“OpenAI tenía muy poco que perder al abrir esto”, dijo Polosukhin a CNBC. “Si, por ejemplo, cualquier otra empresa, especialmente una empresa pública, lo abriera y la primera pregunta que hicieras allí fuera como una respuesta inapropiada, eso aparecería en las noticias”.
Cuando se publicó el artículo formativo a finales de 2017, Polosukhin había salido de Google para iniciar su propia empresa de inteligencia artificial, Near, con su colega ingeniero de software Alexander Skidanov. Los ocho autores ya han abandonado Google, aunque Polosukhin fue el primero en hacerlo.
“La investigación de Google es un entorno asombroso”, afirmó Polosukhin. “Es fantástico para aprender y realizar este tipo de investigación. Pero si quieres avanzar muy rápido y, lo que es más importante, poner algo delante de un usuario, entonces Google es una gran empresa con muchos procesos y, con mucha razón, protocolos de seguridad. etc., que sean necesarios.”
En última instancia, dijo, “para Google no tiene sentido lanzar algo que no sea una idea de mil millones de dólares”.
Mientras estuvo en Google, Polosukhin fue un defensor del código abierto.
“En ese momento, abrirlo y ponerlo a disposición de todos para construir sobre él fue la decisión correcta”, dijo.
Con Near, Polosukhin se centra en lo que él llama IA propiedad del usuario, “que optimiza la privacidad y soberanía de los usuarios”.
Mire el vídeo para escuchar la conversación completa entre Katie Tarasov de CNBC e Illia Polosukhin.
