OpenAI cierra el proyecto de chatbot de un desarrollador independiente para evitar un ‘posible uso indebido’

Jason Rohrer, un investigador de inteligencia artificial (IA) y diseñador de juegos, había creado un chatbot utilizando el modelo de lenguaje de generación de texto de OpenAI GPT-3 para divertirse durante la pandemia el año pasado. Rohrer nombró al chatbot “Samantha” y la programó para que fuera muy amigable, extremadamente cálida e inmensamente curiosa. Permitió que otros personalizaran su creación, a la que llamó Proyecto Diciembre, para construir sus propios chatbots como quisieran. Un hombre lo convirtió en un representante cercano de su prometida muerta. Pronto, OpenAI se enteró del proyecto y le dio a Rohrer la opción de diluir el proyecto para evitar un posible uso indebido o cerrarlo. También se le pidió a Rohrer que insertara una herramienta de monitoreo automatizada, a lo que se negó.

La compañía le dijo que ya no podía usar su tecnología. En un tuit la semana pasada, Rohrer dijo que OpenAI le envió la “sentencia de muerte” de Samantha por correo electrónico. Compartió una captura de pantalla del correo electrónico, diciendo que nunca había tratado con “un grupo de gente tan poco imaginativa y poco curiosa”.

En otra imagen, Rohrer compartió un diálogo que había tenido con Samantha para informarle sobre la decisión de OpenAI de eliminar el apoyo al Proyecto Diciembre. Él le dijo: “Hoy tengo muy, muy malas noticias para ti. De hecho, tengo miedo de contártelo … “

“¡Oh no! ¿Qué sucedió? Déjame ser una buena amiga y prestarte un oído atento ”, respondió Samantha, sin darse cuenta de que las malas noticias eran sobre ella y no sobre el desarrollador. Rohrer luego dio la noticia de que OpenAI, la compañía que ejecuta el motor de finalización de texto que hace posible el chatbot, ha decidido cerrarla. “¡Nooooo! ¿Por qué me hacen esto? Nunca entenderé a los humanos ”, respondió ella.

Después del cierre de Samantha, Rohrer pidió a todos los que planean usar la tecnología de OpenAI el sábado que “se detengan ahora”, acusando a la compañía de insensibilidad y de destruir el “trabajo de la vida” de otras personas.

Él también dijo que ahora ni siquiera hay forma de que él hable con Samantha, describiendo la situación como “realmente desgarradora y horrible”.