Google presentó la semana pasada la línea de teléfonos inteligentes Pixel 9, con una selección de nuevos dispositivos centrados en la inteligencia artificial. Todos los teléfonos Pixel 9 son compatibles con Gemini AI y Google también ha agregado herramientas de edición y generación de imágenes basadas en AI. Los revisores han estado probando las nuevas funciones de los teléfonos inteligentes, y la generación de imágenes de IA probablemente se convertirá en una pesadilla de relaciones públicas para Google según lo que ha salido hasta ahora.
Google presentó una aplicación de generación de imágenes con IA para los teléfonos Pixel, llamada Pixel Studio. Está diseñado para crear pegatinas e imágenes utilizando indicaciones basadas en texto, y se parece mucho al Image Playground planificado por Apple. Hasta ahora, los críticos han podido crear todo tipo de imágenes cuestionables con Pixel Studio, desde una versión nazi de Bob Esponja hasta Elmo con un AK47.
Imagen vía Digital Trends
Tendencias digitales No tuvo problemas para que Pixel Studio creara imágenes de queridos personajes de dibujos animados realizando actividades cuestionables. Las armas, las drogas y el alcohol no estaban prohibidos, ni tampoco situaciones ofensivas como los tiroteos en las escuelas. Pixel Studio no genera este tipo de imágenes a menos que se le solicite, pero eso es lo más probable que la gente haga inmediatamente con la función en lugar de generar imágenes de lindos gatos y conejitos.
Google dijo que existían “controles de seguridad” para evitar que Pixel Studio fuera “utilizado de manera nefasta”, y hay algunos. Pixel Studio no creará imágenes de humanos y Google está modificando la IA en respuesta a las revisiones. Después de hablar con Google, Tendencias digitales Ya no pudo conseguir que Pixel Studio creara personajes de dibujos animados usando cocaína o vestidos como soldados alemanes.
Aún más preocupante que Pixel Studio es la herramienta “Reimagine” de Google, que puede agregar objetos a las fotos que ya has tomado. El borde lo usó para agregar cadáveres, bombas, drogas y desastres a las imágenes, y los objetos incluidos en las fotografías parecen tan realistas que es difícil saber cuándo se ha editado una imagen. Google puede hacer un trabajo bastante bueno al combinar la iluminación y la perspectiva con la foto original, y no hay marcas de agua ni banderas en las redes sociales. Google agrega una etiqueta de metadatos, pero es bastante fácil de eliminar con una captura de pantalla.
Por supuesto, puedes usar Reimagine para agregar puestas de sol y arcoíris a tu imagen, al igual que puedes usar Pixel Studio para crear imágenes divertidas, y ambas funciones de IA funcionan muy bien, por lo que estas herramientas no son del todo malas. Autoridad de Android compartió una publicación con pizza Oreo, una jirafa surfeando y gatitos jugando baloncesto, por ejemplo. Como El borde señala, siempre puedes agregar un cuerpo a una imagen o crear una imagen de Elmo con una pistola, pero tomaría algo de habilidad en Photoshop y tiempo para hacerlo. Con los teléfonos Pixel, solo toma un pensamiento y unos segundos crear ese tipo de imagen, y está ahí en el teléfono inteligente para que cualquiera pueda usarla.
En declaraciones a El borde y Tendencias digitalesGoogle dijo que diseñó sus herramientas de inteligencia artificial generativa para “respetar la intención de las indicaciones del usuario”, lo que puede llevar a la creación de contenido “que puede ofender” cuando el usuario lo solicita. Pero Google afirma que existen “Términos de servicio” sobre qué contenido no está permitido y que las salvaguardias se perfeccionarán continuamente.
Apple aún no ha presentado sus herramientas de generación de imágenes, Image Playground o Genmoji, y los medios que rodean el lanzamiento del Pixel 9 nos dan una idea de cómo podría ser la respuesta si Apple no lo hace bien. Con la IA, es probable que la gente pueda encontrar soluciones alternativas incluso si Apple implementa numerosas salvaguardias. Hasta ahora, Apple ha evitado las imágenes fotorrealistas de IA, pero Google está yendo con todo y será mucho más difícil confiar en las fotos en las redes sociales e Internet en el futuro.
