La pantalla de chat ChatGPT en un teléfono inteligente dispuesta en el distrito de Brooklyn de Nueva York, EE. UU., el jueves 9 de marzo de 2023. ChatGPT ha facilitado la escritura de códigos de computadora y hacer trampa en las tareas. Pronto, las estafas por correo electrónico podrían ser muy fáciles. Ésa es la advertencia de Darktrace Plc, la empresa británica de ciberseguridad.
Gabby Jones | Bloomberg | imágenes falsas
El cofundador de OpenAI, John Schulman, dijo en una publicación del lunes X que dejaría el microsoft-empresa respaldada y unirse a Anthropic, una startup de inteligencia artificial con financiación de Amazonas.
La medida se produce menos de tres meses después de que OpenAI disolviera un equipo de superalineación que se centraba en tratar de garantizar que las personas puedan controlar sistemas de IA que superan la capacidad humana en muchas tareas.
Schulman había sido codirector del equipo posterior a la capacitación de OpenAI que perfeccionó los modelos de IA para el chatbot ChatGPT y una interfaz de programación para desarrolladores externos, según una biografía en su sitio web. En junio, OpenAI dijo que Schulman, como jefe de ciencia de alineación, se uniría a un comité de seguridad que brindaría asesoramiento a la junta. Schulman solo ha trabajado en OpenAI desde que recibió su doctorado. en Ciencias de la Computación en 2016 de la Universidad de California, Berkeley.
“Esta elección surge de mi deseo de profundizar mi enfoque en la alineación de la IA y comenzar un nuevo capítulo de mi carrera en el que pueda volver al trabajo técnico práctico”, escribió Schulman en la publicación en las redes sociales.
Dijo que no se iría por falta de apoyo para nuevos trabajos sobre el tema en OpenAI.
“Por el contrario, los dirigentes de las empresas se han comprometido mucho a invertir en este ámbito”, afirmó.
Los líderes del equipo de superalineación, Jan Leike y el cofundador de la empresa, Ilya Sutskever, se marcharon este año. Leike se unió a Anthropic, mientras que Sutskever dijo que estaba ayudando a iniciar una nueva empresa, Safe Superintelligence Inc.
Desde que los miembros del personal de OpenAI establecieron Anthropic en 2021, las dos jóvenes empresas con sede en San Francisco han estado luchando por tener los modelos de IA generativa de mayor rendimiento que puedan generar texto similar a un humano. Amazon, Google y Meta también han desarrollado grandes modelos lingüísticos.
“¡Estoy muy emocionado de trabajar juntos de nuevo!” Leike escribió en respuesta al mensaje de Schulman.
Sam Altman, cofundador y director ejecutivo de OpenAI, dijo en una publicación propia que la perspectiva de Schulman informó la estrategia inicial de la startup.
Schulman y otros decidieron irse después de que la junta expulsó a Altman como jefe en noviembre pasado. Los empleados protestaron por la decisión, lo que provocó que Sutskever y otros dos miembros de la junta, Tasha McCauley y Helen Toner, renunciaran. Altman fue reintegrado y OpenAI asumió miembros adicionales en la junta.
Toner dijo en un podcast que Altman le había dado a la junta información incorrecta sobre la “pequeña cantidad de procesos formales de seguridad que la empresa tenía implementados”.
La firma de abogados WilmerHale encontró en una revisión independiente que la junta no estaba preocupada por la seguridad del producto cuando expulsó a Altman.
La semana pasada, Altman dijo en X que OpenAI “ha estado trabajando con el Instituto de Seguridad de IA de EE. UU. en un acuerdo en el que proporcionaríamos acceso temprano a nuestro próximo modelo básico para que podamos trabajar juntos para impulsar la ciencia de las evaluaciones de IA”. Altman dijo que OpenAI todavía está comprometida a mantener el 20% de sus recursos informáticos para iniciativas de seguridad.
También el lunes, Greg Brockman, otro cofundador de OpenAI y su presidente, anunció que se tomaría un año sabático por el resto del año.
MIRAR: OpenAI anuncia un motor de búsqueda llamado SearchGPT
