Sundar Pichai, director ejecutivo de Google y Alphabet, habla sobre inteligencia artificial durante una conferencia del grupo de expertos Bruegel en Bruselas, Bélgica, el 20 de enero de 2020.
Yves Herman | Reuters
Google anunció que restringirá los tipos de consultas relacionadas con las elecciones que los usuarios pueden hacer a su chatbot Gemini, añadiendo que ya ha implementado los cambios en India, donde los votantes acudirán a las urnas esta primavera.
“Por precaución en un tema tan importante, hemos comenzado a implementar restricciones sobre los tipos de consultas relacionadas con las elecciones para las cuales Gemini devolverá respuestas”, escribió Google en una publicación de blog el martes. “Nos tomamos en serio nuestra responsabilidad de proporcionar información de alta calidad para este tipo de consultas y trabajamos continuamente para mejorar nuestras protecciones”.
Un portavoz de Google dijo a CNBC que los cambios estaban en línea con el enfoque planificado por la compañía para las elecciones y que está introduciendo las restricciones Gemini “en preparación para las numerosas elecciones que tendrán lugar en todo el mundo en 2024 y por precaución”.
El anuncio se produce después de que Google retirara su herramienta de generación de imágenes con inteligencia artificial el mes pasado tras una serie de controversias, incluidas imprecisiones históricas y respuestas polémicas. La compañía había introducido el generador de imágenes a principios de febrero a través de Gemini, el conjunto principal de modelos de inteligencia artificial de Google, como parte de un importante cambio de marca.
“Hemos desconectado la función mientras solucionamos el problema”, dijo el mes pasado Demis Hassabis, director ejecutivo de DeepMind de Google, durante un panel en la conferencia del Mobile World Congress en Barcelona. “Esperamos volver a tenerlo en línea muy pronto en las próximas semanas”. Añadió que el producto no estaba “funcionando como pretendíamos”.
La noticia también llega mientras las plataformas tecnológicas se están preparando para un gran año de elecciones en todo el mundo que afectarán a más de cuatro mil millones de personas en más de 40 países. El aumento del contenido generado por IA ha generado graves preocupaciones sobre la desinformación relacionada con las elecciones, y el número de deepfakes generados aumenta un 900 % año tras año, según datos de la empresa de aprendizaje automático Clarity.
La desinformación relacionada con las elecciones ha sido un problema importante que se remonta a la campaña presidencial de 2016, cuando los actores rusos intentaron implementar formas fáciles y económicas de difundir contenido inexacto en las plataformas sociales. Actualmente, los legisladores están aún más preocupados por el rápido aumento de la IA.
“Existen motivos para una gran preocupación sobre cómo se podría utilizar la IA para engañar a los votantes en las campañas”, dijo a CNBC el mes pasado Josh Becker, senador estatal demócrata en California, en una entrevista.
Las tecnologías de detección y marcas de agua utilizadas para identificar deepfakes no han avanzado lo suficientemente rápido como para mantenerse al día. Incluso si las plataformas detrás de imágenes y videos generados por IA aceptan incorporar marcas de agua invisibles y ciertos tipos de metadatos, existen formas de evitar esas medidas de protección. A veces, hacer capturas de pantalla puede incluso engañar a un detector.
En los últimos meses, Google ha subrayado su compromiso de buscar (e invertir fuertemente en) asistentes o agentes de IA. El término suele describir herramientas que van desde chatbots hasta asistentes de codificación y otras herramientas de productividad.
El director ejecutivo de Alphabet, Sundar Pichai, destacó a los agentes de IA como una prioridad durante la conferencia telefónica sobre resultados de la compañía el 30 de enero. Pichai dijo que eventualmente quiere ofrecer un agente de IA que pueda completar cada vez más tareas para un usuario, incluso dentro de la Búsqueda de Google, aunque dijo hay “mucha ejecución por delante”. Del mismo modo, los directores ejecutivos de gigantes tecnológicos, desde Microsoft hasta Amazon, duplicaron su compromiso de crear agentes de inteligencia artificial como herramientas de productividad.
El cambio de marca Gemini de Google, el lanzamiento de aplicaciones y la expansión de funciones fueron un primer paso para “construir un verdadero asistente de inteligencia artificial”, dijo a los periodistas Sissie Hsiao, vicepresidenta de Google y gerente general de Google Assistant y Bard, en una llamada telefónica en febrero.
