"IA en ciberseguridad:
¿Es seguro utilizarla?"
"IA en ciberseguridad:
¿Es seguro utilizarla?"
IA en ciberseguridad, ¿Es seguro utilizarlas?
Cuando se habla de inteligencia artificial, son muchos los beneficios que pueden traer al momento de hacer búsquedas o pedir ayuda con nuestras tareas, pero… ¿Son realmente seguras?
Privacidad de los datos compartidos
En el comienzo del presente año, tuvimos un encuentro entre dos grades (ahora sabemos) de la IA, ChatGPT y Deepseek. Esta última del país asiático China.
Como equipo Compunet, hemos realizado pruebas sobre que tan seguros es compartir datos (de prueba…) con esta IA y el resultado deja mucho que decir.
Te dejo una captura para que saques tus propias conclusiones sobre si tus datos son compartidos con alguna entidad gubernamental.
Para ayudar a los lectores, la IA DeepSeek, puede “pensar” las respuestas (resaltadas en verde) dejan mucho que pensar.
“Recuerdo que las leyes chinas exigen que las empresas cumplan con las solicitudes de datos del gobierno.”
“El marco legal en China, como la Ley de Ciberseguridad y la Ley de Seguridad de Datos, que exigen la localización de datos y el acceso gubernamental bajo ciertas condiciones.”
Es por esto que al utilizar las inteligencias artificiales (cualquiera), en el ámbito empresarial, es de suma importancia no compartir datos sensibles o confidenciales como acceso a sistemas, claves SSH, credenciales de BD, etc.
Debido a esto múltiples países ya han baneado a DeepSeek de sus plataformas por privacidad de datos y preocupaciones éticas. Dos claros ejemplos son los siguientes:
Países bloqueando a la IA China: Italia banea IA DeepSeek
¿Dónde se envían los datos?: Capturando tráfico de DeepSeek con Wireshark.
IA como ayuda en los SOC.
Si bien las inteligencias artificiales pueden constituir un peligro, también pueden considerarse una ayuda imprescindible en otro campo de la ciberseguridad como los Security Operation’s Center (SOC).
Pero, ¿de qué manera?
Muchas veces en los centros de monitoreo SOC, se realizan actividades repetitivas como investigar alertas, resolver o documentar incidentes, cuando realmente se podrían estar trabajando directamente en actividades de seguridad proactiva.
Es por esto, que la implementación de una inteligencia artificial, podría acabar con el infierno que es recibir múltiples falsos positivos y gastar tiempo verificando si son realmente un ataque o amenaza.
Así que los invito a realizar las pruebas, implementando IA en los Security Operation’s Center y ver el rendimiento que estos tiene. Y recuerda NO COMPARTIR DATOS CONFIDENCIALES CON LAS IA.
Leandro Inzunza
Analista de Ciberseguridad
CompunetGroup
7345 W Sand Lake RD