El Centro Nacional de Seguridad Cibernética del Reino Unido ha publicado un nuevo estudio que encuentra que la IA generativa puede aumentar los riesgos de amenazas cibernéticas como el ransomware.
En general, el informe encontró que la IA generativa proporcionará una “mejora de la capacidad” a las amenazas existentes en lugar de ser una fuente de amenazas completamente nuevas. Los actores de amenazas deberán ser lo suficientemente sofisticados como para obtener acceso a “datos de capacitación de calidad, experiencia significativa (tanto en IA como cibernética) y recursos” antes de poder aprovechar la IA generativa, lo que, según el NCSC, no es probable que ocurra hasta 2025. Los actores de amenazas “podrán analizar los datos exfiltrados de manera más rápida y efectiva, y usarlos para entrenar modelos de IA” en el futuro.
Cómo la IA generativa puede “mejorar” los ataques
“Debemos asegurarnos de aprovechar la tecnología de inteligencia artificial por su vasto potencial y gestionar sus riesgos, incluidas sus implicaciones sobre la amenaza cibernética”, escribió Lindy Cameron, directora ejecutiva del NCSC, en un comunicado de prensa. “El uso emergente de la IA en los ciberataques es evolutivo, no revolucionario, lo que significa que mejora las amenazas existentes como el ransomware, pero no transforma el panorama de riesgos en el corto plazo”.
El informe clasificó las amenazas (Figura A) por el potencial de “mejora” de la IA generativa y por los tipos de actores de amenazas: atacantes patrocinados por el estado-nación, bien organizados y menos capacitados u oportunistas.
Figura A
La amenaza generativa de la IA que se extenderá hasta 2025 proviene de la “evolución y mejora de las tácticas, técnicas y procedimientos existentes”, no de nuevos, según el informe.
Los servicios de inteligencia artificial reducen la barrera de entrada para los atacantes de ransomware
Se espera que el ransomware siga siendo una forma dominante de delito cibernético, según el informe. De manera similar a como los atacantes ofrecen ransomware como servicio, ahora también ofrecen IA generativa como servicio, según el informe.
VER: Una botnet de malware reciente captura credenciales de nube de AWS, Microsoft Azure y más (TechRepublic)
“Los servicios de inteligencia artificial reducen las barreras de entrada, aumentan el número de ciberdelincuentes y aumentarán su capacidad al mejorar la escala, la velocidad y la eficacia de los métodos de ataque existentes”, afirmó James Babbage, director general de amenazas de la Agencia Nacional contra el Crimen, citado. en el comunicado de prensa del NCSC sobre el estudio.
Los actores del ransomware ya están utilizando IA generativa para reconocimiento, phishing y codificación, una tendencia que el NCSC espera que continúe “hasta 2025 y más allá”.
La ingeniería social puede ser facilitada por la IA
La encuesta encontró que la ingeniería social verá un gran avance gracias a la IA generativa en los próximos dos años. Por ejemplo, la IA generativa podrá eliminar los errores ortográficos y gramaticales que a menudo marcan los mensajes de spam. Después de todo, la IA generativa puede crear contenido nuevo para atacantes y defensores.
Los atacantes de phishing y malware podrían utilizar la IA, pero es probable que sólo los más sofisticados la tengan
De manera similar, los actores de amenazas pueden usar IA generativa para obtener acceso a cuentas o información de contraseñas en el curso de un ataque de phishing. Sin embargo, será necesario que los actores de amenazas avanzados utilicen IA generativa para el malware, según el informe. Para crear malware que pueda evadir los filtros de seguridad actuales, sería necesario entrenar una IA generativa con grandes cantidades de datos de explotación de alta calidad. Los únicos grupos que probablemente tengan acceso a esos datos hoy son los actores estatales, pero el informe dice que existe una “posibilidad realista” de que existan tales repositorios.
Las vulnerabilidades pueden aparecer a un ritmo más rápido debido a la IA
Los administradores de redes que buscan parchear las vulnerabilidades antes de que sean explotadas pueden encontrar que su trabajo se vuelve más difícil a medida que la IA generativa acelera el tiempo entre la identificación y la explotación de las vulnerabilidades.
Cómo los defensores pueden utilizar la IA generativa
El NCSC señaló que algunos de los beneficios que la IA generativa brinda a los ciberatacantes también pueden beneficiar a los defensores. La IA generativa puede ayudar a encontrar patrones para acelerar el tiempo necesario para detectar o clasificar ataques e identificar correos electrónicos maliciosos o campañas de phishing.
Para mejorar las defensas globales contra los atacantes que utilizan IA generativa, el Reino Unido organizó la creación de la Declaración de Bletchley en noviembre de 2023 como directriz para abordar los riesgos futuros de la IA.
El NCSC y algunas organizaciones de la industria privada del Reino Unido han adoptado la IA para mejorar la detección de amenazas y la seguridad por diseño en el marco de la Estrategia de Seguridad Cibernética de £2,6 mil millones ($3,3 mil millones) anunciada en 2022.
