La inteligencia artificial (IA para los amigos) ha llegado para quedarse. Desde hace ya un tiempo, y con la liberación de CHAT GPT como plataforma abierta, se ha popularizado y extendido el uso de la inteligencia artificial. Desde validar referencias, buscar información, recomendar opciones, comparar productos y un largo etc solo acotado a las necesidades, imaginación y restricciones propias del modelo de inteligencia artificial. Así como la IA ha impactado todo, también abre brechas y riesgos que estamos, ahora recién, comenzando a conocer. Estos avances de la IA y la disponibilidad como plataforma de “libre uso” ha tenido un alto impacto en la industria de la ciberseguridad permitiendo que este tipo de soluciones penetren el mercado y abriendo nuevos presupuestos para incorporar tecnologías de ciberseguridad que hagan uso e incorporen modelos de IA permitiendo implementar “toolset” ofensivos para ciberseguridad basados en IA y abriendo un nuevo campo laboral, de rápida y alta demanda, para profesionales de ciberseguridad que conozcan de modelos de IA, sepan implantarlos y programarlos. Y así como la IA está siendo implementada en herramientas de ciberseguridad defensiva bajando la carga operativa (proceso de TRIAGE en particular) de los equipos de primera línea de ciberseguridad; Los ciberdelincuentes hacen lo propio implementando IA para ofuscar y cambiar patrones de ataque, modelar perfiles de ingeniería social, generar ataques que usen y hagan uso de patrones psicológicos avanzados y muchas otras posibilidades que permiten incrementar el impacto de estas amenazas convirtiendo esta herramienta, la IA, en una maquina perversa a disposición de los ciberdelincuentes (individuales/estado-nación). Algo así como una espada de doble filo en donde los ciberdelincuentes están invirtiendo más: Según COLUMBUS (2023), un 24% de los equipos de ciberseguridad están realmente preparados para afrontar un ataque de ciberseguridad que haga uso de la IA.

Cibersecurity Offensive IA

Offensive IA es la denominación que la industria ha entregado al uso de modelos de machine learning para realizar métodos de ataques ofensivos hacia un objetivo sean estos o provengan estos desde ciberdelincuentes (bad actos) o equipos de investigación de ciberseguridad (White hats). El uso de la IA, según COLUMBUS (2023) por parte de actores de amenaza se ha visto en campañas de phishing automatizado, correo electrónico, distribución de malware, bots, C&C, fraude bancario y de tarjetas de crédito, fraude con seguros, apuestas y azar, lavado de dinero, entre otros. Se trata de disponibilizar los modelos de IA en plataformas de automatización, autónomas, dispuestas para ejercer ataques ofensivos hacia distintos objetivos (targets) modelando la IA para incorporar y encadenar múltiples patrones de ataque de manera autómata haciendo que los esfuerzos de los equipos defensivos de ciberseguridad sean cada vez más altos y con menor éxito al ser capaz, los modelos de IA ofensivos desde actores maliciosos, de mutar en tiempo real cambiando su comportamiento. Sin duda, se trata de la SKYNET en su origen (chiste aparte). Lo anterior, se ha traducido en un aumento significativo de los ataques de ciberseguridad en el último semestre con un amplio espectro de objetivos tales como gobiernos, hospitales, corporativos y más.

Cibersecurity Defensive IA

Por la otra vereda, la ciberseguridad defensiva con IA está rápidamente evolucionando e incorporándose, a través de los distintos vendors y soluciones, como herramienta incorporando, principalmente, los modelos de aprendizaje automático a través de la implantación de entornos que permitan detectar ataques y desplegar ciber-señuelos que permitan mejorar el aprendizaje, anticipar y detectar ataques de manera automatizada haciendo uso de la IA. Estos ciber-señuelos permiten desplegar redes neuronales artificiales que permitan detectar actividad maliciosa derivando esta hacia honeypots para su análisis, muestreo y modelado generando, nuevamente, aprendizaje para el modelo de IA. El avance en el aprendizaje defensivo vía IA permite identificar de manera proactiva ataques a través del reconocimiento de patrones, identificación de archivos, imágenes y video, incorporar la predicción en el modelo de detección detectando amenazas de día 0 de manera altamente eficaz. Además, la implementación de IA en la ciberseguridad defensiva permite automatizar los procesos de TRIAGE de ciberseguridad optimizando los tiempos y recursos junto con implementar procedimientos para la conducción autónoma de procesos de investigación forense y causa-raíz. Sin ir más lejos, las soluciones endpoint corporativas llevan uun tiempo implementando modelos de IA a través machine learning y, hoy, las soluciones SIEM, SOAR y PENTESTING están implementando modelos altamente eficientes de IA como features ya disponible para los equipos de ciberseguridad.

Sin duda, los avances de la IA están teniendo un impacto significativo en la ciberseguridad tanto en la ciberseguridad ofensiva como defensiva. Las empresas, corporaciones y gobiernos están comenzando, a través de las distintas soluciones y vendors, a incorporar modelos de IA en sus estrategias de defensa producto del aumento de ataques de ciberseguridad que hacen uso de las capacidades de la IA desde distintos actores de amenazas quienes están empleando IA pueden cambiar sus patrones de ataque y detección, lo que aumenta la dificultad de defenderse contra estos ataques.

Sin duda, se trata de una amenaza en aumento que debe ser incorporada y para la cual debemos formar a nuestros equipos de ciberseguridad.

César Millavil A

COMPUNETGROUP CEO

C|EH - ISO27001LA – ISO27032LM