En esta ilustración fotográfica, el logotipo de OpenAI se muestra en la pantalla de un teléfono móvil con una foto de Sam Altman, director ejecutivo de OpenAI.
Didem Mente | Anadolu | Imágenes falsas
OpenAI estima que ChatGPT rechazó más de 250.000 solicitudes para generar imágenes de los candidatos presidenciales estadounidenses de 2024 en el período previo al día de las elecciones, dijo la compañía en un blog el viernes.
Los rechazos incluyeron solicitudes de generación de imágenes que involucraban al presidente electo Donald Trump, la vicepresidenta Kamala Harris, el presidente Joe Biden, el gobernador de Minnesota Tim Walz y el vicepresidente electo JD Vance, dijo OpenAI.
El auge de la inteligencia artificial generativa ha generado preocupación sobre cómo la información errónea creada con esta tecnología podría afectar las numerosas elecciones que tendrán lugar en todo el mundo en 2024.
La cantidad de deepfakes ha aumentado un 900% año tras año, según datos de Clarity, una empresa de aprendizaje automático. Algunos incluían vídeos creados o pagados por rusos que buscaban perturbar las elecciones estadounidenses, dicen funcionarios de inteligencia estadounidenses.
En un informe de octubre de 54 páginas, OpenAI dijo que había interrumpido “más de 20 operaciones y redes engañosas de todo el mundo que intentaban utilizar nuestros modelos”. Las amenazas iban desde artículos de sitios web generados por IA hasta publicaciones en redes sociales de cuentas falsas, escribió la compañía. Ninguna de las operaciones relacionadas con las elecciones logró atraer “participación viral”, señala el informe.
En su blog del viernes, OpenAI dijo que no había visto ninguna evidencia de que las operaciones encubiertas destinadas a influir en el resultado de las elecciones estadounidenses utilizando los productos de la compañía pudieran volverse virales con éxito o generar “audiencias sostenidas”.
Los legisladores han estado particularmente preocupados por la desinformación en la era de la IA generativa, que despegó a finales de 2022 con el lanzamiento de ChatGPT. Los grandes modelos lingüísticos son todavía nuevos y habitualmente arrojan información inexacta y poco fiable.
“Los votantes categóricamente no deberían recurrir a los chatbots de inteligencia artificial para obtener información sobre la votación o las elecciones; hay demasiadas preocupaciones sobre la precisión y la integridad”, dijo a CNBC la semana pasada Alexandra Reeve Givens, directora ejecutiva del Centro para la Democracia y la Tecnología.
MIRAR: Es probable que la IA esté menos regulada y más volátil durante la segunda presidencia de Trump
