El último informe de Gartner afirma que la IA se ha convertido en el mayor riesgo de ciberseguridad al que se enfrentan las empresas durante tres trimestres consecutivos, y el 80% de los ejecutivos encuestados están profundamente preocupados por ello. El editor de Downcodes interpretará el contenido del informe, analizará cómo se utiliza la IA en los ciberataques y cómo deben responder las empresas a este desafío cada vez más grave. Este artículo profundizará en la aplicación de la IA en la redacción de malware, la producción de correos electrónicos de phishing y los ataques distribuidos de denegación de servicio, y analizará los últimos hallazgos de empresas de seguridad e instituciones de investigación.
Según el último informe publicado por Gartner, la aplicación de la inteligencia artificial (IA) en los ciberataques se ha convertido en el mayor riesgo al que se enfrentan las empresas durante tres trimestres consecutivos.
La consultora encuestó a 286 altos ejecutivos de auditoría y riesgos entre julio y septiembre y descubrió que el 80% de los encuestados expresaron su profunda preocupación por los ataques maliciosos mejorados por IA. Esta tendencia no es sorprendente, ya que hay evidencia de que los ciberataques que utilizan IA están aumentando.
Nota sobre la fuente de la imagen: la imagen es generada por IA y el proveedor de servicios de autorización de imágenes Midjourney
Otros riesgos emergentes enumerados en el informe incluyen la desinformación asistida por IA, el aumento de la polarización política y la asignación desigual del talento organizacional. Los atacantes utilizan IA para escribir malware, crear correos electrónicos de phishing y más. Tomando a HP como ejemplo, los investigadores interceptaron una campaña de correo electrónico que propagaba malware en junio y sospecharon que el script estaba escrito con la ayuda de IA generativa. El guión está claramente estructurado y cada comando está comentado, lo cual no es común en la escritura humana.
Según datos de la empresa de seguridad Vipre, en el segundo trimestre de 2023, el número de ataques de fraude por correo electrónico empresarial aumentó un 20% en comparación con el mismo período del año pasado, de los cuales casi el 50% fueron generados por IA. Los directores ejecutivos, el personal de recursos humanos y de TI se convirtieron en objetivos principales. Usman Choudhary, director de productos y tecnología de Vipre, dijo que los delincuentes están utilizando sofisticados algoritmos de inteligencia artificial para crear correos electrónicos de phishing convincentes que imitan el tono y el estilo de las comunicaciones legítimas.
Además, según un informe de Imperva Threat Research, los sitios web minoristas sufrieron un promedio de 569.884 ataques impulsados por IA por día de abril a septiembre. Los investigadores señalaron que herramientas como ChatGPT, Claude y Gemini, así como bots que se especializan en rastrear datos de sitios web para entrenar grandes modelos de lenguaje, se están utilizando para realizar actividades como ataques distribuidos de denegación de servicio y abuso de lógica empresarial.
Un número cada vez mayor de hackers éticos también admiten haber utilizado IA generativa, y la proporción aumentó del 64% el año pasado al 77%. La IA puede ayudar con ataques multicanal, ataques de inyección de fallas y ataques automatizados que atacan múltiples dispositivos simultáneamente, dijeron los investigadores. Así, si los “buenos” encuentran útil la IA, los “malos” también aprovecharán la tecnología.
El auge de la IA no es sorprendente, ya que ha reducido el umbral del delito cibernético, permitiendo a delincuentes con menores habilidades técnicas utilizar la IA para generar falsificaciones profundas, escanear entradas a la red, realizar reconocimientos y más. Investigadores del Instituto Federal Suizo de Tecnología desarrollaron recientemente un modelo que puede resolver al 100% el problema de Google reCAPTCHA v2. Los analistas de la empresa de seguridad Radware predijeron a principios de año que la aparición de modelos GPT privados se utilizaría con fines maliciosos y que aumentaría el número de vulnerabilidades de día cero y estafas deepfake.
Gartner también señaló que, por primera vez, los problemas críticos de los proveedores de TI están en las listas de atención de los ejecutivos. Zachary Ginsburg, director senior de práctica de riesgos y auditoría de Gartner, dijo que los clientes que dependen en gran medida de un solo proveedor pueden enfrentar riesgos mayores. Al igual que el incidente dStrike de julio, que paralizó 8,5 millones de dispositivos Windows en todo el mundo, tuvo un enorme impacto en los servicios de emergencia, los aeropuertos y las fuerzas del orden.
Con todo, el efecto de espada de doble filo de la tecnología de inteligencia artificial se refleja más vívidamente en el campo de la seguridad de las redes. Las empresas deben tomar medidas defensivas de manera proactiva, como fortalecer la capacitación en seguridad, implementar autenticación multifactor y adoptar tecnología avanzada de detección de amenazas, para enfrentar de manera efectiva los ciberataques impulsados por la IA. En el futuro, será fundamental seguir prestando atención a las tendencias de desarrollo de la seguridad de la IA y explorar activamente estrategias de respuesta.