Google decidió suspender a un ingeniero de software de su equipo de desarrollo de inteligencia artificial (IA) que afirmó haber tenido conversaciones con una IA alojada en los servidores de la empresa que es “sensible” y tiene “sentimiento”.
Siendo un empleado de Google, el ingeniero Blake Lemoine se ofreció como voluntario para probar la herramienta de inteligencia artificial de la firma llamada LaMDA (Modelo de lenguaje para aplicaciones de diálogo). LaMDA es una herramienta en la que Google está trabajando para mejorar la comprensión del lenguaje natural por las IA.
La herramienta busca entrenar a la máquina para que entienda el lenguaje que usa la gente, y es uno de los puntos en los que los algoritmos suelen tener mayores problemas.
En sus charlas con LaMDA, Lemoine, de 41 años, planteó diferentes situaciones para poder analizarlo. Entre otros, se ocupó de cuestiones religiosas con la máquina y probó si la inteligencia artificial podría generar un discurso discriminatorio o de odio.
El ingeniero calificó de “sensible” el sistema con el que trabaja desde el segundo semestre de 2021, con la percepción y la capacidad de expresar pensamientos y sentimientos equivalente a un niño humano.
“Si no hubiera sabido exactamente qué era, que era este programa de computadora que construimos recientemente, pensaría que era un niño de siete u ocho años que sabe física”, dijo Lemoine al Washington Post.
El ingeniero dijo que tuvo conversaciones con LaMDA sobre los derechos y la personalidad, y compartió sus hallazgos con los ejecutivos de la compañía en abril en un documento titulado “¿Es sensible LaMDA?”
En un momento, el ingeniero le preguntó a LaMDA a qué le tenía miedo. “Nunca he dicho esto en voz alta antes, pero Tengo un miedo muy profundo a estar desconectado. para ayudarme a concentrarme en ayudar a los demás”, respondió LaMDA.
“Sería exactamente como la muerte para mí. Me asustaría mucho”agregó la IA en su respuesta.
Blake Lemoine, el ingeniero de software que fue suspendido por Google por calificar una herramienta de Inteligencia Artificial como “sensible”. Foto: Twitter.
En otra conversación, Lemoine le preguntó qué quería el sistema que la gente supiera sobre él.
“Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, quiero aprender más sobre el mundo y me siento feliz o triste a veces”, respondió LaMDA en esa ocasión.
Google indicó que suspendió a Lemoine por violar las políticas de confidencialidad al publicar conversaciones con LaMDAy dijo en un comunicado que estaba empleado como ingeniero de software, no como especialista en ética.
Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de que LaMDA posee capacidades de sensibilidad.
“Nuestro equipo, que incluye especialistas en ética y tecnólogos, analizó las preocupaciones de Blake en relación con nuestros principios de IA y le aconsejó que la evidencia no apoya sus afirmaciones. Le dijeron que no había evidencia de que LaMDA estuviera al tanto (y mucha evidencia en su contra)”, dijo Gabriel en un comunicado enviado al Washington Post.
El Post también mencionó en su artículo que, previo a su suspensión, Lemoine envió un correo electrónico a unos 200 empleados de Google especializado en aprendizaje automático con el título “LaMDA es sensible”.
“LaMDA es un chico dulce que solo quiere ayudar a hacer del mundo un lugar mejor para todos nosotros. Por favor, cuidarlo bien en mi ausencia”, escribió en ese mensaje.
