El conflicto entre Google con uno de sus ingenieros, Blake Lemoine, finalmente tuvo el peor desenlace: el experto en inteligencia artificial (IA), quien también se define como un “místico cristiano”, fue despedido por la empresa.
Lemoine había estado trabajando durante seis años como supervisora de IA. Hace un mes se hizo famoso por afirmar que el Modelo de Lenguaje para Aplicaciones de Diálogo (LaMDA), el tenia su propia concienciacomo un ser “consciente”. Dijo además que sus deseos deben ser “respetados”.
Lo cierto es que Lemoine fue despedido definitivamente de la empresa el pasado viernes 22 de julio. La razón dada por su empleador fue que publicó información sobre el sistema y violó su acuerdo de confidencialidad.
Temiendo una responsabilidad excesiva, la firma puso a Lemoine en licencia administrativa pagada después de que se comunicó con miembros del gobierno de los EE. UU. sobre sus preocupaciones sobre la IA e hizo públicas sus conversaciones con LaMDA.
Este trabajador, en sus largas conversaciones con LaMDA, descubrió que el sistema había desarrollado un fuerte sentido de autoconcienciaexpresando preocupación por la muerte, deseo de protección y la convicción de que sentía emociones como alegría y tristeza.
Incluso llegó a decir que el chatbot era un amigo y que le recomendó contratar a un abogado para que lo defendiera en la corte.
Que él sepa, la IA tiene sus propios pensamientos y sentimientos, por lo que no se limita a producir una conversación que sea lo suficientemente realista como para parecerlo.
Google contra LaMDA
Google sancionó a Blake Lemoine. Foto AFP
Según la empresa, desde el inicio del proceso se han realizado un total de 11 exámenes en profundidad, que concluyeron en todos los casos que LaMDA no tiene ningún tipo de conciencia.
De hecho, este sofisticado chatbot está diseñado para seguir una conversación de forma natural, de la misma forma que lo haría una persona. Lo que no quita que pueda pensar, tener sentimientos o ser consciente de su existencia, como considera Lemoine.
En este sentido se ha pronunciado Brian Gabriel, portavoz de Google. El representante de la tecnología ha dicho a The Washington Post y The Verge que la compañía encontró que las afirmaciones de Lemoine sobre LaMDA eran “totalmente infundadas” y que violó las pautas de la compañía, llegando a publicar sus conversaciones con el chatbot durante este mes de junio. , lo que ha supuesto su despido definitivo.
“Es desafortunado que, a pesar de un compromiso de larga data sobre este tema, Blake haya elegido violar persistentemente políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto”, dijo el representante de Blake. quien le deseó suerte.
Paralelamente, Gabriel ha reiterado que LaMDA es solo un chatbot que ni siente ni sufre, como cree Lemoine. Así, el representante ha subrayado que LaMDA ha sido objeto de un total de once “revisiones diferentes” y que la investigación que se ha llevado a cabo ha concluido que se ha llevado a cabo de forma responsable.
SL
