Anadolu | Anadolu | imágenes falsas
Jan Leike, uno de los investigadores principales de seguridad de OpenAI que renunció a la compañía de inteligencia artificial a principios de este mes, dijo el martes que se unió a la startup rival de IA Anthropic.
Leike anunció su renuncia a OpenAI a principios del 15 de mayo, días antes de que la compañía disolviera el grupo de superalineación que él codirigió. Ese equipo, formado en 2023, se centró en los riesgos de la IA a largo plazo. El cofundador de OpenAI, Ilya Sutskever, anunció su salida en una publicación en X el 14 de mayo.
“Estoy emocionado de unirme a @AnthropicAI para continuar la misión de superalineación”, escribió Leike en X el martes. “Mi nuevo equipo trabajará en supervisión escalable, generalización de débil a fuerte e investigación de alineación automatizada”.
Anthropic está respaldado por Amazonasque ha comprometido hasta 4 mil millones de dólares en financiación para una participación minoritaria en la empresa.
En una publicación posterior a su salida de OpenAI, Leike escribió: “Dejar este trabajo ha sido una de las cosas más difíciles que he hecho en mi vida, porque necesitamos urgentemente descubrir cómo dirigir y controlar sistemas de IA mucho más inteligentes que nosotros”.
La seguridad de la IA ha ganado rápidamente importancia en todo el sector tecnológico desde que OpenAI introdujo ChatGPT a finales de 2022, lo que marcó el comienzo de un auge en las inversiones y los productos de IA generativa. Algunos en la industria han expresado su preocupación de que las empresas se estén moviendo demasiado rápido al lanzar al público potentes productos de IA sin considerar adecuadamente el posible daño social.
microsoftOpen AI, respaldada por AI, dijo el martes que creó un nuevo comité de seguridad liderado por altos ejecutivos, incluido el director ejecutivo Sam Altman. El comité recomendará “decisiones de seguridad para proyectos y operaciones de OpenAI” a la junta directiva de la empresa.
Anthropic, fundada en 2021 por los hermanos Dario Amodei y Daniela Amodei y otros ex ejecutivos de OpenAI, lanzó su rival ChatGPT Claude 3 en marzo. La empresa ha recibido financiación de Google, Fuerza de ventas y Zoomademás de la financiación de Amazon.
MIRAR: Cofundador de Anthropic sobre la adopción de IA
