OpenAI, Microsoft y Adobe apoyan públicamente el proyecto de ley AB-3211 que requeriría que las empresas de tecnología etiqueten el contenido generado por IA en California.
Según la legislación, se deben agregar marcas de agua a los metadatos de fotos, videos y grabaciones de audio que fueron producidos o modificados significativamente por sistemas de inteligencia artificial generativa.
El proyecto de ley también requerirá que las grandes plataformas de redes sociales, como X e Instagram, apliquen etiquetas “fáciles de entender” al contenido subido en el que los usuarios puedan hacer clic para verlo. Se deben aplicar etiquetas visuales a los clips de audio y vídeos musicales.
OpenAI expresó su apoyo en una carta dirigida a Buffy Wicks, miembro de la Asamblea del Estado de California, a la que tuvo acceso Reuters. Adobe y Microsoft también respaldaron el proyecto de ley en cartas similares vistas por TechCrunch.
“Las nuevas tecnologías y estándares pueden ayudar a las personas a comprender el origen del contenido que encuentran en línea y evitar la confusión entre el contenido generado por humanos y el contenido fotorrealista generado por IA”, escribió en su carta Jason Kwon, director de estrategia de OpenAI, según Reuters.
La carta de Kwon también destacó que la transparencia y los requisitos en torno a la procedencia son especialmente importantes en un año electoral, ya que se podría generar contenido sintético convincente para votar votos indecisos. Por ejemplo, a principios de agosto circularon en las redes sociales imágenes generadas por inteligencia artificial de fanáticos de Taylor Swift apoyando a Donald Trump.
AB-3211 ha sido aprobado por la Asamblea estatal y el comité de asignaciones del Senado. A continuación se realizará una votación en pleno del Senado estatal antes de que se acerque al gobernador Gavin Newsom para que la promulgue o la vete antes de finales de septiembre.
TechRepublic contactó a OpenAI, Microsoft y Adobe para solicitar comentarios.
VER: Apple se une al compromiso voluntario del gobierno de EE. UU. con la seguridad de la IA
Grupo de defensa critica el proyecto de ley
Microsoft y Adobe son parte de la Coalición para la procedencia y autoridad del contenido, un grupo industrial que desarrolla estándares para la verificación de contenido generado por IA. El grupo ayudó a crear metadatos C2PA, un marco para incorporar metadatos verificables en contenido digital que utiliza DALL-E 3.
Sin embargo, la BSA, un grupo de defensa de la industria del software que incluye a Microsoft y Adobe, objetó la AB-3211 en una carta dirigida al Comité de Privacidad y Protección al Consumidor de la Asamblea de California en abril. Se mostró en desacuerdo con:
- La amplitud del contenido que debe tener una marca de agua.
- El requisito de proporcionar herramientas para verificar las marcas de agua.
- El sistema de notificación y presentación de informes “inviable” que propone.
Desde entonces, los legisladores han realizado varias enmiendas al proyecto de ley, que parecen haber apaciguado las preocupaciones de las empresas.
California hace malabarismos con múltiples proyectos de ley relacionados con la IA
AB-3211 es independiente de SB-1047, la controvertida Ley de IA de California.
SB-1047 tiene como objetivo evitar que los modelos de IA causen daños a gran escala a la humanidad o pérdidas financieras al imponer estrictos requisitos de seguridad a los desarrolladores. A principios de este mes, el Comité de Asignaciones de California aprobó la SB-1047, pero aún debe ser aprobada por la Asamblea y el Senado estatales antes de que se convierta en ley.
Gran parte de Silicon Valley, incluidos OpenAI, Meta, Google y Hugging Face, menospreciaron públicamente el SB-1047. Pero a principios de esta semana, Elon Musk recurrió a X para expresar que cree que el proyecto de ley debería aprobarse. Publicó: “Durante más de 20 años, he sido un defensor de la regulación de la IA, del mismo modo que regulamos cualquier producto/tecnología que sea un riesgo potencial para el público”.
Dos ex empleados de OpenAI también escribieron una carta a Newsom criticando a su ex empleador por oponerse a la SB-1047.
“OpenAI se opone incluso a los requisitos extremadamente ligeros de la SB1047, con la mayoría de los cuales OpenAI afirma comprometerse voluntariamente, lo que plantea dudas sobre la solidez de esos compromisos”, escribieron. OpenAI no está de acuerdo con la “caracterización errónea de [their] posición”, según Business Insider
AB-3211 y SB-1047 son sólo dos de al menos 65 proyectos de ley relacionados con la IA que los legisladores pretendían presentar en California este año, con el objetivo de equilibrar el avance tecnológico con la protección del consumidor.
