Google pronto comenzará a identificar cuándo el contenido de las búsquedas y los resultados de anuncios es generado por IA, si sabes dónde buscar.
En una publicación de blog del 17 de septiembre, el gigante tecnológico anunció que, en los próximos meses, los metadatos en búsquedas, imágenes y anuncios indicarán si una imagen fue fotografiada con una cámara, editada en Photoshop o creada con IA. Google se une a otras empresas de tecnología, incluida Adobe, para etiquetar imágenes generadas por IA.
¿Qué son el C2PA y las credenciales de contenido?
Los estándares de marcas de agua de IA fueron creados por la Coalición para la Procedencia y Autenticidad del Contenido, un organismo de estándares al que Google se unió en febrero. C2PA fue cofundada por Adobe y la Joint Development Foundation, una organización sin fines de lucro, para desarrollar un estándar para rastrear la procedencia del contenido en línea. El proyecto más importante de C2PA hasta ahora ha sido su estándar de etiquetado de IA, Credenciales de contenido.
Google ayudó a desarrollar la versión 2.1 del estándar C2PA, que, según la compañía, tiene protecciones mejoradas contra la manipulación.
VER: OpenAI dijo en febrero que sus videos fotorrealistas de Sora AI incluirían metadatos C2PA, pero Sora aún no está disponible para el público.
Amazon, Meta, OpenAI, Sony y otras organizaciones forman parte del comité directivo de C2PA.
“Las credenciales de contenido pueden actuar como una etiqueta nutricional digital para todo tipo de contenido y una base para reconstruir la confianza y la transparencia en línea”, escribió Andy Parsons, director senior de la Iniciativa de Autenticidad de Contenido de Adobe, en un comunicado de prensa de octubre de 2023.
‘Acerca de esta imagen’ para mostrar metadatos C2PA en Circle to Search y Google Lens
C2PA implementó su estándar de etiquetado más rápido que la mayoría de las plataformas en línea. La función “Acerca de esta imagen”, que permite a los usuarios ver los metadatos, solo aparece en Google Imágenes, Circle to Search y Google Lens en dispositivos Android compatibles. El usuario debe acceder manualmente a un menú para ver los metadatos.
En los anuncios de la Búsqueda de Google, “Nuestro objetivo es acelerar este [C2PA watermarking] aumentar con el tiempo y utilizar señales C2PA para informar cómo aplicamos políticas clave”, escribió la vicepresidenta de confianza y seguridad de Google, Laurie Richardson, en la publicación del blog.
Google también tiene planes de incluir información C2PA en videos de YouTube capturados por una cámara. La compañía planea revelar más información a finales de este año.
La atribución correcta de imágenes mediante IA es importante para las empresas
Las empresas deben asegurarse de que los empleados estén al tanto de la difusión de imágenes generadas por IA y capacitarlos para verificar la procedencia de una imagen. Esto ayuda a prevenir la difusión de información errónea y previene posibles problemas legales si un empleado usa imágenes que no está autorizado a usar.
El uso de imágenes generadas por IA en los negocios puede enturbiar las aguas en torno a los derechos de autor y la atribución, ya que puede resultar difícil determinar cómo se ha entrenado un modelo de IA. Las imágenes de IA a veces pueden ser sutilmente inexactas. Si un cliente busca un detalle específico, cualquier error podría reducir la confianza en su organización o producto.
C2PA debe utilizarse de acuerdo con la política de IA generativa de su organización.
C2PA no es la única forma de identificar contenido generado por IA. Las marcas de agua visibles y el hash perceptivo (o huellas dactilares) a veces se plantean como opciones alternativas. Además, los artistas pueden utilizar filtros de envenenamiento de datos, como Nightshade, para confundir la IA generativa, evitando que los modelos de IA sean entrenados en su trabajo. Google lanzó su propia herramienta de detección de IA, SynthID, que actualmente se encuentra en versión beta.
