El pánico ante la IA está generando un nuevo problema de confianza para los CIO
La inteligencia artificial atraviesa una nueva etapa de incertidumbre. Mientras los principales desarrolladores de modelos avanzados debaten públicamente sobre seguridad, control y velocidad de desarrollo, las empresas tienen que afrontar una cuestión mucho más práctica: cómo generar confianza en el uso de la IA dentro de sus propias organizaciones.
El problema ya no consiste solamente en convencer a los empleados de que utilicen inteligencia artificial.
Los CIO y responsables de tecnología también necesitan demostrar a directivos, consejos de administración y equipos de seguridad que la empresa puede utilizar estas herramientas de manera controlada.
Y existe una diferencia importante entre confiar en una tecnología y confiar en la forma en que una organización la administra.
La preocupación por la IA llega a las empresas
Durante 2026, los principales laboratorios de inteligencia artificial han protagonizado un debate cada vez más visible sobre los riesgos de los modelos avanzados.
Las discusiones incluyen cuestiones como seguridad, comportamiento inesperado, evaluación de modelos, supervisión humana y velocidad de desarrollo.
Estas discusiones no se quedan dentro de los laboratorios.
Las mismas noticias son recibidas por empleados, directivos y consejos de administración que están intentando decidir qué papel tendrá la inteligencia artificial dentro de sus organizaciones.
InformationWeek señaló recientemente que este contexto está creando un nuevo desafío para los CIO: generar confianza organizacional incluso cuando los propios desarrolladores de IA reconocen que existen incertidumbres sobre el comportamiento futuro de los modelos.
El verdadero problema no es eliminar toda incertidumbre
Una empresa no necesita demostrar que la inteligencia artificial nunca cometerá errores.
De hecho, prometer que un sistema de IA será completamente predecible puede generar una falsa sensación de seguridad.
El objetivo debería ser diferente:
hacer que los riesgos sean identificables, gestionables y supervisables.
Esto significa establecer procesos para saber:
- Qué herramientas de IA utiliza la empresa.
- Qué información pueden procesar.
- Quién puede utilizarlas.
- Qué permisos tienen los agentes.
- Qué proveedores intervienen.
- Cómo se supervisan las actividades.
- Cómo se registran los incidentes.
- Qué ocurre cuando un sistema se comporta de manera inesperada.
La confianza empresarial se construye mediante controles y evidencia, no solamente mediante declaraciones sobre las capacidades de un modelo.
La confianza en la IA no es lo mismo que la confianza en el proveedor
Este punto es especialmente importante para los CIO.
Una organización puede utilizar un modelo desarrollado por una de las principales compañías de IA y, aun así, tener una implementación insegura.
¿Por qué?
Porque existen riesgos adicionales alrededor del modelo:
Datos + identidades + aplicaciones + APIs + agentes + infraestructura cloud + usuarios.
Incluso un modelo técnicamente avanzado puede convertirse en un riesgo empresarial si tiene acceso excesivo a información confidencial o a sistemas críticos.
Por eso, la pregunta de seguridad no debería ser únicamente:
¿Es seguro este modelo?
También debería ser:
¿Es segura nuestra implementación de este modelo?
Los CIO necesitan demostrar control
El crecimiento de la inteligencia artificial está obligando a los departamentos de TI a ampliar sus estrategias tradicionales de seguridad.
Gartner ha señalado que la expansión de agentes de IA, cargas de trabajo automatizadas e interacciones máquina a máquina está aumentando la importancia de la gestión de identidades y accesos.
Esto tiene una consecuencia directa para las empresas.
Un agente de IA no debería recibir automáticamente los mismos permisos que un administrador humano.
Los sistemas necesitan conocer:
- Quién inició una acción.
- Qué agente la ejecutó.
- Qué información consultó.
- Qué permisos utilizó.
- Qué sistema modificó.
- Cuánto tiempo tuvo acceso.
- Qué resultado produjo.
Esta trazabilidad es fundamental para crear confianza.
El problema del Shadow AI
Uno de los mayores obstáculos para la confianza empresarial es el denominado Shadow AI.
Se produce cuando los empleados utilizan herramientas de inteligencia artificial sin que hayan sido aprobadas o evaluadas por la organización.
Por ejemplo, un trabajador puede utilizar una plataforma pública para analizar:
- Contratos.
- Código fuente.
- Información financiera.
- Datos de clientes.
- Documentación interna.
- Informes empresariales.
Desde el punto de vista del empleado, puede parecer una forma sencilla de aumentar la productividad.
Desde el punto de vista del CIO, puede representar un problema de privacidad, cumplimiento, seguridad y pérdida de información.
Por eso, prohibir todas las herramientas de IA puede no resolver el problema.
Una estrategia más efectiva consiste en proporcionar herramientas aprobadas, políticas claras y controles de seguridad.
La gobernanza se convierte en parte de la estrategia de confianza
La gobernanza de IA está adquiriendo una importancia creciente porque permite establecer reglas antes de que la tecnología se extienda por toda la empresa.
Una estrategia de gobernanza puede determinar:
Qué IA está autorizada
La empresa debe mantener una lista de herramientas y proveedores aprobados.
Qué información puede utilizarse
Los empleados deben conocer qué tipos de datos pueden introducir en sistemas de IA.
Qué sistemas pueden conectarse
No todos los agentes necesitan acceso a las mismas aplicaciones corporativas.
Qué acciones requieren aprobación humana
Las operaciones de alto impacto pueden requerir supervisión antes de ejecutarse.
Cómo se monitorizan los sistemas
La actividad de los modelos y agentes debería quedar registrada cuando sea necesario.
Cómo se responde ante incidentes
Debe existir un procedimiento para bloquear accesos, investigar incidentes y recuperar el control.
La confianza también necesita métricas
Otro problema para los CIO es demostrar ante la dirección que la estrategia de IA está funcionando.
La adopción por sí sola no demuestra que una iniciativa sea exitosa.
Una empresa puede medir aspectos como:
- Número de aplicaciones de IA autorizadas.
- Número de usuarios activos.
- Incidentes relacionados con IA.
- Cantidad de datos sensibles procesados.
- Agentes conectados a sistemas corporativos.
- Accesos privilegiados.
- Tiempo de respuesta ante incidentes.
- Cumplimiento de las políticas internas.
- Ahorro de tiempo o costes.
- Retorno de inversión de los proyectos.
KPMG encontró en una investigación publicada en junio de 2026 que casi tres de cada cuatro líderes encuestados identificaban riesgo, seguridad y privacidad como preocupaciones importantes, mientras que solamente el 24% afirmaba haberlas integrado en su estrategia y tecnología.
Esto muestra una brecha entre adoptar IA y establecer las condiciones necesarias para confiar en ella.
La seguridad debe acompañar a la innovación
Los departamentos de seguridad no deberían aparecer solamente cuando una empresa ya ha comprado una herramienta de IA.
La seguridad debe formar parte del proceso desde el principio.
Antes de desplegar un sistema de inteligencia artificial, el equipo de TI debería analizar:
- Qué problema empresarial resolverá.
- Qué información necesita.
- Qué proveedor participa.
- Qué permisos requiere.
- Qué riesgos introduce.
- Cómo se monitorizará.
- Cómo se desactivará si es necesario.
- Cómo se medirá su rendimiento.
Este enfoque permite evitar dos extremos.
Por un lado, adoptar IA sin controles.
Por otro, bloquear completamente la innovación debido a la incertidumbre.
Zero Trust también llega a los agentes de IA
La expansión de los agentes inteligentes está haciendo que el concepto de Zero Trust sea cada vez más relevante.
La idea es sencilla: ningún sistema debería recibir confianza automática.
Un agente puede tener autorización para realizar una tarea concreta sin recibir acceso ilimitado a toda la infraestructura.
Por ejemplo, un agente encargado de preparar informes financieros podría acceder a determinados datos, pero no necesariamente modificar registros contables o realizar transferencias.
La separación de permisos reduce el impacto potencial de errores y accesos indebidos.
La nueva responsabilidad del CIO
El papel del CIO está cambiando.
Ya no se trata solamente de seleccionar tecnologías y mantener la infraestructura.
El responsable de tecnología debe ayudar a la organización a responder preguntas como:
¿Dónde podemos utilizar IA?
¿Dónde no deberíamos utilizarla?
¿Qué riesgos estamos dispuestos a aceptar?
¿Qué controles necesitamos?
¿Cómo demostramos que esos controles funcionan?
Esta función convierte al CIO en una figura fundamental para conectar innovación, seguridad, cumplimiento y estrategia empresarial.
Cómo construir confianza en la IA empresarial
Las organizaciones pueden utilizar un modelo basado en cinco pilares.
1. Transparencia
Los empleados y directivos deben saber qué herramientas de IA se utilizan y para qué.
2. Control
Los sistemas deben funcionar con permisos definidos y límites claros.
3. Supervisión
Las actividades de los modelos y agentes deben poder monitorizarse.
4. Responsabilidad
Debe existir un responsable empresarial y técnico para cada implementación importante.
5. Revisión continua
Los riesgos de la IA pueden cambiar rápidamente, por lo que las evaluaciones no deberían realizarse solamente una vez.
Gartner también recomienda establecer límites de riesgo y gobernanza desde las primeras etapas de los proyectos de IA, además de integrar seguridad e identidad dentro de la estrategia de adopción.
Conclusión
El debate sobre los riesgos de la inteligencia artificial puede generar preocupación dentro de las empresas, especialmente cuando los propios desarrolladores de modelos avanzados reconocen que todavía existen incertidumbres.
Pero para los CIO, la respuesta no consiste en prometer que la IA será perfecta.
La prioridad es crear una infraestructura empresarial capaz de gestionar la incertidumbre.
Eso significa controlar identidades, proteger datos, limitar permisos, supervisar agentes, evaluar proveedores y establecer mecanismos claros de respuesta.
La confianza en la inteligencia artificial empresarial no se construirá porque los modelos sean considerados completamente seguros.
Se construirá cuando los empleados, directivos y consejos de administración puedan comprobar que la organización sabe cómo utilizar la IA, cómo limitar sus riesgos y cómo actuar cuando algo sale mal.
En este nuevo escenario, la ventaja competitiva no dependerá únicamente de quién adopte más inteligencia artificial.
También dependerá de quién consiga adoptarla con controles suficientes para que toda la organización pueda confiar en ella.
AI Cybersecurity Leadership — Gartner
Comentarios
Publicar un comentario