Los empleados de OpenAI advierten sobre los peligros avanzados de la IA

Varios empleados actuales y anteriores de OpenAI y Google DeepMind compartieron hoy una carta abierta advirtiendo sobre los peligros de la IA avanzada y la actual falta de supervisión de las empresas que trabajan en tecnología de IA.

Los empleados sugieren que nos enfrentamos a una serie de riesgos derivados del desarrollo de la IA, incluido un mayor afianzamiento de las desigualdades existentes, la manipulación y la desinformación, y la pérdida de control de los sistemas autónomos de IA, que, según la carta, podrían conducir a la extinción humana.

Las empresas de IA tienen “fuertes incentivos financieros” para seguir adelante con el desarrollo y evitar compartir información sobre sus medidas de protección y niveles de riesgo. “No creemos que se pueda confiar en que todos lo compartirán voluntariamente”, se lee en la carta, que dice que corresponde a los empleados actuales y anteriores hablar.

Mientras no exista una supervisión gubernamental efectiva de estas corporaciones, los empleados actuales y anteriores se encuentran entre las pocas personas que pueden exigirles responsabilidades ante el público. Sin embargo, los amplios acuerdos de confidencialidad nos impiden expresar nuestras preocupaciones, excepto ante las mismas empresas que tal vez no estén abordando estos temas. Las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que nos preocupan aún no están regulados.

En última instancia, los empleados están pidiendo a las empresas de IA que ofrezcan protecciones sólidas a los denunciantes que denuncien los riesgos de la IA.

• Evite crear o hacer cumplir acuerdos que impidan críticas por preocupaciones relacionadas con el riesgo.
• Ofrezca un proceso anónimo verificable para que los empleados planteen inquietudes relacionadas con riesgos a la junta directiva, los reguladores y las organizaciones independientes con experiencia relevante.
• Apoye una cultura de crítica abierta para permitir a los empleados plantear inquietudes relacionadas con riesgos sobre tecnologías al público, la junta directiva, los reguladores y más, siempre que los secretos comerciales estén protegidos.
• Evite tomar represalias contra los empleados que comparten públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado.

Un total de 13 empleados firmaron la carta, incluidos siete ex empleados de OpenAI, cuatro empleados actuales de OpenAI, un ex empleado de Google DeepMind y un empleado actual de Google DeepMind. OpenAI ha amenazado a los empleados con la pérdida de capital adquirido por hablar, y los obliga a firmar acuerdos de confidencialidad draconianos que amordazan las críticas.

La carta llega mientras Apple se prepara para anunciar múltiples funciones impulsadas por IA para iOS 18 y otras actualizaciones de software el lunes. Apple está trabajando en su propia funcionalidad de IA que se integrará en las aplicaciones de todo el sistema operativo, además ha firmado un acuerdo con OpenAI para integrar las funciones de ChatGPT en ‌iOS 18‌.