¿Cuáles son los principales riesgos, limitaciones y desafíos éticos al usar IA en ciberseguridad?

 

La inteligencia artificial se ha convertido en una herramienta cada vez más importante para proteger empresas, redes y sistemas informáticos. Puede analizar enormes cantidades de información, detectar patrones sospechosos y ayudar a los equipos de seguridad a responder con mayor rapidez.

Pero existe una paradoja: la misma tecnología que puede ayudar a defender una organización también puede convertirse en una nueva fuente de riesgos.

Los problemas van desde ataques contra los propios sistemas de IA hasta errores en sus respuestas, filtraciones de información y decisiones automatizadas difíciles de explicar.

1. La IA también puede ser atacada

Uno de los principales riesgos es que los ciberdelincuentes no solamente ataquen los sistemas tradicionales, sino también los modelos de inteligencia artificial.

La edición 2026 del OWASP GenAI LLM Top 10, publicada en agosto, identifica vulnerabilidades específicas de las aplicaciones de IA generativa, incluyendo ataques de prompt injection, problemas con la gestión de información y otros riesgos relacionados con los sistemas basados en modelos de lenguaje.

Un atacante puede intentar manipular las instrucciones que recibe un modelo para conseguir que realice acciones que originalmente no estaban previstas.

Esto resulta especialmente preocupante cuando la IA tiene acceso a información confidencial, herramientas internas o sistemas capaces de ejecutar acciones automáticamente.

2. Una respuesta de IA puede ser incorrecta

Otro problema importante son las llamadas alucinaciones de la IA.

Un sistema puede generar una respuesta que parece convincente pero contiene información incorrecta. En ciberseguridad, esto puede tener consecuencias importantes.

Una investigación reciente realizada con profesionales de centros de operaciones de seguridad encontró preocupaciones relacionadas con respuestas incorrectas, razonamientos poco transparentes y el esfuerzo necesario para verificar los resultados generados por los modelos. Los profesionales entrevistados consideraron que la IA puede ser útil para tareas de bajo riesgo, pero mostraron mucha más cautela cuando se trata de decisiones críticas.

Por eso, una recomendación fundamental es sencilla:

la IA puede ayudar al especialista de seguridad, pero no debería sustituir automáticamente su criterio en las decisiones de alto impacto.

3. Más automatización también significa más responsabilidad

La situación se vuelve todavía más delicada cuando una IA puede actuar por sí misma.

Un sistema que únicamente analiza una alerta representa un riesgo diferente de otro que puede bloquear usuarios, modificar configuraciones o ejecutar acciones sobre una red.

Cuanto mayor sea la autonomía, mayor debe ser el nivel de supervisión.

NIST destaca precisamente la necesidad de gestionar los riesgos asociados a la IA y desarrollar sistemas que sean seguros, confiables y comprensibles para las organizaciones que los utilizan.

4. La privacidad puede convertirse en otro problema

Para detectar amenazas, una herramienta de IA puede necesitar analizar grandes cantidades de información.

El problema aparece cuando esos datos contienen información personal, documentos internos, comunicaciones de empleados o información confidencial de clientes.

Una organización puede terminar entregando a un sistema de IA más información de la que realmente necesita para realizar una determinada tarea.

Por eso, la seguridad de la IA no consiste solamente en proteger el modelo. También implica determinar qué datos puede utilizar, quién puede acceder a ellos y durante cuánto tiempo deben conservarse.

5. Los ciberdelincuentes también utilizan IA

La amenaza no procede únicamente de ataques contra los modelos.

Los delincuentes pueden utilizar inteligencia artificial para generar campañas de phishing, automatizar determinadas tareas, producir contenido engañoso y acelerar la búsqueda de vulnerabilidades.

NIST señala que la IA está creando nuevas oportunidades tanto para mejorar las capacidades defensivas como para aumentar las capacidades de los atacantes.

Esto está provocando una especie de carrera tecnológica:

los defensores utilizan IA para detectar ataques mientras los atacantes utilizan IA para mejorar sus ataques.

6. El problema de explicar una decisión

En ciberseguridad, no siempre basta con que una IA diga que algo es peligroso.

Los responsables de seguridad necesitan saber por qué el sistema llegó a esa conclusión.

Si una herramienta bloquea una cuenta, identifica un archivo como malicioso o determina que una actividad constituye una amenaza, la organización debería poder revisar los motivos y comprobar la decisión.

La falta de explicabilidad puede convertirse en un problema técnico, operativo y ético.

7. ¿Quién es responsable si la IA se equivoca?

Esta es una de las preguntas más difíciles.

Supongamos que una empresa utiliza una IA para detectar amenazas y el sistema clasifica erróneamente una actividad legítima como un ataque. Como consecuencia, bloquea un servicio crítico.

¿La responsabilidad corresponde al proveedor de la IA?

¿Al departamento de seguridad?

¿Al administrador que configuró el sistema?

¿A la empresa que decidió automatizar el proceso?

La respuesta no siempre es sencilla.

Por eso, los marcos de gestión de riesgos de IA ponen especial atención en la gobernanza, la supervisión y la asignación de responsabilidades. NIST, por ejemplo, plantea un enfoque estructurado para gestionar los riesgos de la inteligencia artificial durante todo su ciclo de vida.

8. La IA no debería convertirse en una caja negra

La combinación de IA y ciberseguridad puede ser extremadamente poderosa, pero existe el peligro de confiar demasiado en sistemas que los propios operadores no comprenden completamente.

Una organización que delega demasiadas decisiones en una IA podría terminar creando una nueva vulnerabilidad: la dependencia excesiva del sistema automatizado.

La solución no consiste en dejar de utilizar inteligencia artificial.

Consiste en utilizarla con límites claros, controles de acceso, supervisión humana, auditorías y mecanismos para comprobar sus decisiones.

El gran desafío: utilizar IA sin perder el control

La inteligencia artificial puede convertirse en una de las herramientas más importantes para proteger la infraestructura digital durante los próximos años.

Pero también puede ampliar la superficie de ataque y generar nuevos problemas de privacidad, seguridad y responsabilidad.

El desafío no es elegir entre IA o ciberseguridad.

El verdadero desafío es conseguir que ambas evolucionen juntas.

Las empresas que utilicen IA para protegerse tendrán que asumir una realidad fundamental: una herramienta diseñada para defender los sistemas también debe ser protegida, supervisada y auditada.

La pregunta ya no es si las organizaciones utilizarán inteligencia artificial en ciberseguridad.

La pregunta es cuánto control estarán dispuestas a conservar cuando la IA empiece a tomar decisiones por ellas.

Fuente: NIST — Artificial Intelligence Risk Management Framework