Por tercer trimestre consecutivo, Gartner ha descubierto que los ciberataques realizados con inteligencia artificial son el mayor riesgo para las empresas.
La consultora encuestó a 286 ejecutivos senior de riesgos y aseguramiento de julio a septiembre, y el 80% citó los ataques maliciosos mejorados por IA como la principal amenaza que les preocupaba. Esto no es sorprendente, ya que la evidencia sugiere que los ataques asistidos por IA están en aumento.
Otros riesgos emergentes comúnmente citados y descritos en el informe incluyen la desinformación asistida por IA, la escalada de la polarización política y los perfiles de talento organizacional desalineados.
Los atacantes utilizan IA para escribir malware, crear correos electrónicos de phishing y más
En junio, HP interceptó una campaña de correo electrónico que propagaba malware en la naturaleza con un script que “muy probablemente había sido escrito con la ayuda de GenAI”. El VBScript estaba cuidadosamente estructurado y cada comando tenía un comentario, lo que supondría un esfuerzo innecesario para un humano escribirlo.
Luego, los investigadores utilizaron GenAI para producir un script y encontraron resultados similares, lo que sugiere que el malware original fue generado al menos parcialmente por IA.
VER: El 20% de los ataques de ‘Jailbreak’ de IA generativa tienen éxito
La cantidad de ataques de compromiso de correo electrónico empresarial detectados por la empresa de seguridad Vipre en el segundo trimestre fue un 20% mayor que en el mismo período de 2023, y dos quintas partes de ellos fueron generados por IA. Los principales objetivos fueron los directores ejecutivos, seguidos por el personal de recursos humanos y TI.
Usman Choudhary, director de productos y tecnología de VIPRE, dijo en el comunicado de prensa: “Los malhechores ahora están aprovechando sofisticados algoritmos de inteligencia artificial para crear atractivos correos electrónicos de phishing, imitando el tono y el estilo de las comunicaciones legítimas”.
Solo los sitios minoristas experimentaron un promedio de 569.884 ataques impulsados por IA cada día de abril a septiembre, según Imperva Threat Research. Los investigadores dijeron que herramientas como ChatGPT, Claude y Gemini, así como bots especiales que rastrean sitios web en busca de datos de capacitación LLM, se están utilizando para llevar a cabo ataques distribuidos de denegación de servicio y abuso de lógica empresarial, por ejemplo.
Según un informe de BugCrowd, más piratas informáticos éticos también admiten haber utilizado GenAI, y la proporción aumentó del 64% al 77% en el último año. Estos investigadores dicen que ayuda con ataques de canal directo, ataques de inyección de fallas y la automatización de ataques paralelos para violar simultáneamente múltiples dispositivos. Pero si los “buenos” encuentran valiosa la IA, también lo serán los malos actores.
El aumento de estos ataques no debería ser una sorpresa
La IA puede reducir la barrera de entrada de los delitos cibernéticos, ya que los delincuentes menos capacitados pueden utilizarla para generar deepfakes, escanear redes en busca de puntos de entrada, realizar reconocimientos y más. Investigadores de ETH Zurich crearon recientemente un modelo que podría resolver los acertijos de Google reCAPTCHAv2 utilizados para distinguir humanos y robots el 100% de las veces.
Los analistas de la empresa de seguridad Radware predijeron a principios de año que esta nueva accesibilidad conduciría al desarrollo de modelos GPT privados utilizados con fines nefastos. También pronostican que la cantidad de exploits de día cero y estafas deepfake aumentarán a medida que los actores maliciosos se vuelvan más competentes con los LLM y las redes generativas de confrontación.
De hecho, Mandiant de Google rastreó un total de 97 vulnerabilidades de día cero que fueron descubiertas y explotadas en 2023, lo que supone un aumento del 56 % respecto al año anterior. El mes pasado, Microsoft incluyó los deepfakes entre los tipos de ataques más importantes utilizados por grupos de ransomware cada vez más prolíficos.
VER: Los deepfakes de IA aumentan como riesgo para las organizaciones de APAC
Los ejecutivos también están preocupados por la excesiva dependencia de los proveedores de TI
La criticidad de los proveedores de TI también entró en la lista de Gartner de las principales preocupaciones entre los ejecutivos senior de riesgos y aseguramiento por primera vez este trimestre.
Zachary Ginsburg, director senior de investigación en la práctica de auditoría y riesgo de Gartner, dijo en un comunicado de prensa de Gartner: “Los clientes con una concentración de servicios con un solo proveedor pueden enfrentar un riesgo elevado en caso de interrupciones, o pueden enfrentar cambios imprevistos en los servicios”. dependiendo de nuevas regulaciones o decisiones legales en la UE, EE. UU. o en otros lugares”.
Aludió al incidente CrowdStrike de julio, en el que se desactivaron alrededor de 8,5 millones de dispositivos Windows en todo el mundo y causó enormes interrupciones en los servicios de emergencia, aeropuertos, agencias de aplicación de la ley y otras organizaciones esenciales.
VER: ¿Qué es CrowdStrike? Todo lo que necesitas saber
“Debido a que terceros, como los proveedores de SaaS, dependen de otros proveedores, es posible que las organizaciones no se den cuenta del alcance total de su exposición”, añadió Ginsburg. Gartner predice que el 45% de las empresas a nivel mundial habrán sufrido ataques en sus cadenas de suministro de software para 2025.
