En la gestión de riesgos, "usar IA" no es una decisión única. Es una elección tarea por tarea entre tres herramientas distintas: reglas escritas por personas, modelos de machine learning entrenados con datos históricos y modelos de lenguaje (LLM) que leen y redactan texto. Cada una acierta y se equivoca a su manera. Este artículo compara las tres en tareas concretas de riesgo y compliance, muestra cómo falla cada una e indica cuándo una regla simple sigue siendo la mejor respuesta.
Este texto no trata de cómo elegir una plataforma ni de qué hace que una arquitectura sea "nativa de IA". Esos temas están en Plataforma de IA empresarial para GRC: qué evaluar y en Plataforma nativa de IA: qué significa para GRC. La pregunta aquí es más operativa: para cada tarea, qué mecanismo tiene sentido y qué puede salir mal con él.

Tres mecanismos distintos bajo la misma etiqueta
Mucho de lo que se vende como "IA" en GRC (gobierno, riesgo y cumplimiento) es en realidad uno de los tres enfoques siguientes, o una mezcla de ellos. Separarlos ayuda a hacer las preguntas correctas.
- Reglas. Condiciones escritas por personas: "si el plazo de una acción de tratamiento venció, notifique al responsable"; "si la vulnerabilidad está en el catálogo KEV de la CISA, póngala al principio de la cola". Misma entrada, mismo resultado, siempre. Cualquier auditor puede leer la lógica.
- Machine learning. Modelos que aprenden patrones a partir de ejemplos: qué hallazgos de auditoría suelen clasificarse como críticos, cuál es el comportamiento normal de acceso de un grupo de usuarios. Devuelven una estimación, no una certeza.
- Modelos de lenguaje (LLM). Modelos que trabajan con texto libre: leen una política, un cuestionario de proveedor o un informe, y resumen, clasifican y redactan. Producen texto fluido incluso cuando se equivocan.
El AI Risk Management Framework (AI RMF 1.0) del NIST, de uso voluntario y publicado en enero de 2023, dedica un apéndice completo (Apéndice B) a lo que cambia en los riesgos de la IA respecto del software tradicional. Entre los puntos que enumera están los datos de entrenamiento que quedan desactualizados frente al contexto de uso, la mayor dificultad para prever los modos de falla de grandes modelos preentrenados y la necesidad de un mantenimiento más frecuente por el drift de datos, de modelo o de concepto. Una regla no tiene ninguno de esos problemas. Tiene otros.
Comparativa tarea por tarea
La tabla resume dónde suele funcionar mejor cada enfoque en tareas recurrentes de riesgo. El detalle de cada fila viene a continuación.
| Tarea | La regla resuelve bien | Dónde ayuda el ML o el LLM | Principal cuidado |
|---|---|---|---|
| Plazos, vencimientos y SLA | Todo: evidencia vencida, acción atrasada, revisión anual pendiente | Casi nada | Usar IA aquí solo añade incertidumbre |
| Clasificación de hallazgos | Campos estructurados: origen, severidad, activo | Texto libre de auditorías, pruebas de penetración e incidentes clasificado según una taxonomía | Clases inconsistentes para casos parecidos |
| Sugerencia de mapeo de controles | Mapeos ya aprobados, aplicados de nuevo | Un LLM propone correspondencias entre un control y requisitos de otros marcos | Parecido de texto no es equivalencia; el requisito citado puede no existir |
| Detección de anomalías | Umbrales conocidos: acceso privilegiado fuera de horario, volumen por encima de un tope | El ML aprende el patrón normal y señala desvíos que nadie escribió | Falsos positivos y drift |
| Priorización de vulnerabilidades | Disparadores fijos: está en el KEV, expone un activo crítico a internet | Ordenar el resto de la cola combinando muchas señales | Orden difícil de explicar sin una justificación registrada |
| Redacción de informes y síntesis | Plantillas de informe con campos rellenados desde la base | Un LLM redacta el borrador de la síntesis ejecutiva a partir de los registros | Confabulación: cifras, hechos y citas inventados |
| Lectura de documentos de proveedores | Comprobación de presencia: llegó el cuestionario, el informe está vigente | Un LLM extrae respuestas y señala vacíos en documentos largos | Contenido del documento que manipula al modelo (inyección de prompt) |
Clasificación de hallazgos
Una regla clasifica bien lo que ya llega estructurado: un hallazgo de prueba de penetración de severidad crítica en un activo marcado como crítico va a la categoría más alta, sin discusión. El problema es el texto libre. Los hallazgos de auditoría interna, los informes de incidentes y las observaciones de evaluación de proveedores rara vez siguen un patrón, y una regla por palabra clave falla de forma predecible ("contraseña" aparece tanto en un hallazgo de política como en uno de fuga de datos).
Aquí un modelo de ML entrenado con clasificaciones anteriores, o un LLM guiado por la taxonomía de la empresa, sugiere la categoría, el control afectado y la severidad. El cuidado es la consistencia: dos hallazgos casi iguales pueden recibir clases distintas, y el modelo no avisa. La práctica que funciona es tratar la clasificación como sugerencia con aprobación humana y revisar periódicamente una muestra de las clasificaciones aceptadas para medir el error.
Sugerencia de mapeo de controles
Mapear un control interno a requisitos de varios marcos es un trabajo de lectura comparada, y los LLM son buenos en ello como punto de partida: dado el control "los datos en reposo están cifrados", el modelo propone los requisitos de ISO/IEC 27001, del NIST CSF o de una política interna que tratan el mismo tema. Eso acorta el trabajo de quien empieza desde cero.
Dos riesgos requieren atención. El primero es confundir vocabulario parecido con exigencias equivalentes: dos requisitos pueden hablar de cifrado y exigir cosas distintas. El segundo es la confabulación, cuando el modelo cita un identificador de requisito que no existe o atribuye a una norma algo que no dice. Una vez revisado y aprobado por quien conoce el marco, el mapeo deja de ser sugerencia y se convierte en dato. A partir de ahí, aplicarlo de nuevo es trabajo de regla, no de IA.
Detección de anomalías
Las reglas de umbral detectan bien lo que ya se sabe buscar: acceso administrativo a las 3 de la madrugada, una exportación por encima de cierto volumen, un cambio de configuración fuera de la ventana de cambios. Como mostramos en Auditoría interna continua: cómo automatizarla, el ML entra para lo que nadie escribió antes: un patrón de gasto, acceso o aprobación que se aparta del historial de ese usuario o proceso.
El precio son los falsos positivos, y es mayor de lo que parece cuando el evento real es raro. Un ejemplo hipotético: 10.000 eventos al día, de los cuales 10 son problemas reales. Un modelo que detecta el 90% de los casos reales con una tasa de falsos positivos del 2% señala 9 casos verdaderos y unos 200 falsos. Más del 95% de las alertas serían ruido, incluso con un modelo que parece bueno sobre el papel. Por eso la métrica que importa al equipo es la proporción de alertas que se confirman, no la precisión anunciada.
El segundo precio es el drift. El modelo aprendió lo "normal" de antes de una migración a la nube, una reorganización o un sistema nuevo, y empieza a equivocarse sin dar señales. El AI RMF lo aborda en las subcategorías MEASURE 2.4 (monitorear el comportamiento del sistema en producción) y MANAGE 4.1 (planes de monitoreo posteriores a la implantación, con mecanismos de apelación, anulación de la decisión y gestión de cambios).

Priorización de vulnerabilidades
Algunas decisiones de prioridad no deberían depender de ningún modelo. Si una vulnerabilidad figura en el catálogo de vulnerabilidades explotadas conocidas (KEV) de la CISA y afecta a un activo crítico expuesto a internet, una regla la pone al principio, de forma predecible y fácil de justificar. La IA es útil para ordenar el resto de la cola, combinando señales como exposición, criticidad del activo, controles compensatorios y datos tratados. La lógica de priorizar por explotación y contexto, y no solo por la nota CVSS, está en 48 mil CVE al año: por dónde empezar.
Redacción de informes y síntesis
Redactar es donde los LLM más tiempo ahorran y donde el error es más peligroso, porque un texto bien escrito parece verdadero. El perfil de IA generativa del NIST (NIST AI 600-1, julio de 2024) define la confabulación como la producción de contenido erróneo o falso presentado con seguridad, conocida coloquialmente como "alucinación". El documento explica que es un resultado natural del diseño de los modelos generativos, que predicen la siguiente palabra a partir de patrones estadísticos, y advierte que las respuestas pueden incluir lógica o citas confabuladas que pretenden justificar la conclusión.
En un informe de riesgo, eso significa una cifra que no está en la base, un control descrito como eficaz sin evidencia o una referencia normativa inventada. Cuatro salvaguardas reducen el problema:
- Limite la fuente. El modelo redacta a partir de los registros de su propia base (riesgos, controles, evidencias), no de su conocimiento general.
- Exija el origen. Cada afirmación del borrador remite al registro del que salió; lo que no tiene origen se elimina.
- Valide con una regla. Las cifras, fechas e identificadores de requisitos citados en el texto se comprueban automáticamente contra la base. Aquí la regla vigila a la IA.
- Revise antes de enviar. Ningún texto generado llega al comité o al directorio sin la lectura de quien responde por él.
Lectura de documentos de proveedores
Extraer respuestas de cuestionarios largos, informes de aseguramiento y políticas de terceros es una buena tarea para los LLM. Hay, sin embargo, un riesgo propio: el documento leído puede contener instrucciones que alteran el comportamiento del modelo. OWASP lo clasifica como inyección de prompt (LLM01:2025) y describe la forma indirecta, que ocurre cuando el modelo recibe contenido de fuentes externas, como sitios web o archivos. En la práctica, el texto extraído de un documento de proveedor debe tratarse como dato no confiable y ser verificado por un analista antes de modificar la evaluación de riesgo de ese tercero.
Modos de falla: cómo se equivoca cada enfoque
Elegir entre regla e IA es, en buena parte, elegir qué tipo de error prefiere administrar.
- Las reglas envejecen en silencio. Una regla escrita para el entorno de hace dos años sigue funcionando sin dispararse nunca, y nadie lo nota. Pruebe cada regla crítica con un caso conocido de vez en cuando. Otro síntoma es la explosión de excepciones: cuando una regla necesita decenas de "salvo que", probablemente el problema pide otro enfoque.
- El ML pierde ajuste y genera ruido. El drift y los falsos positivos son los dos modos de falla más comunes. Siga la tasa de alertas confirmadas y la de sugerencias rechazadas a lo largo del tiempo; un empeoramiento gradual es señal de drift.
- Los LLM se equivocan con seguridad. Confabulación, respuestas distintas a la misma pregunta y manipulación por contenido externo. La defensa es estructural: fuente limitada, origen obligatorio, validación automática y revisión humana.
En todos los casos, el AI RMF del NIST recuerda que las medidas de precisión deben considerar las tasas de falsos positivos y falsos negativos y hacerse con conjuntos de prueba representativos de las condiciones reales de uso. Una demostración con datos de ejemplo no mide nada de eso.
Cuándo una regla simple es la mejor opción
La IA no es la opción "avanzada" y la regla la "básica". En muchas tareas de riesgo, la regla es simplemente la herramienta adecuada. Suele ganar cuando:
- El criterio es explícito y binario. Un plazo venció, una evidencia existe, el MFA está activo, un proveedor crítico no tiene evaluación. No hay nada que estimar.
- El resultado debe reproducirse de forma idéntica. Si un auditor o regulador pregunta por qué algo se clasificó así, "porque la condición X es verdadera" es una respuesta más sólida que una probabilidad.
- No hay historial del que aprender. Un modelo de ML sin suficientes ejemplos etiquetados solo reproduce ruido. Empiece con reglas y acumule las decisiones humanas; después se convierten en el historial de entrenamiento.
- El costo del error es conocido y asimétrico. Si dejar pasar un caso es inaceptable, una regla conservadora, aunque ruidosa, suele ser más defendible que un modelo que a veces no señala.
- El volumen es bajo. Si el equipo puede revisarlo todo, la IA ahorra poco y añade un sistema más que gobernar.
Una prueba rápida: si la regla cabe en una frase y casi nunca tiene excepciones, escriba la regla.
Combinación: la regla como carril, la IA como sugerencia
Los diseños que funcionan rara vez eligen un solo lado. Tres patrones aparecen con frecuencia:
- Primero la regla, después la IA. Los disparadores fijos resuelven los casos obvios (KEV, plazo vencido, activo crítico expuesto) y la IA ordena o clasifica lo que queda.
- La IA propone, la aprobación se vuelve regla. Un mapeo de control o una clasificación sugerida por la IA, una vez aprobada, pasa a ser dato de la base y se vuelve a aplicar de forma determinista.
- La regla vigila a la IA. Validaciones automáticas comprueban que lo que el modelo citó existe: el requisito, la cifra, el registro de origen.
En todos ellos, la decisión de aceptar un riesgo, aprobar una excepción o llevar un tema al directorio sigue en manos de una persona. En Eagle, de Futture, la IA se usa para la clasificación asistida, la identificación de relaciones, la priorización contextual y la identificación de inconsistencias, y el usuario revisa, aprueba, rechaza o ajusta cada resultado relevante. La plataforma fue diseñada para que cada recomendación conserve contexto, origen de los datos, justificación, nivel de confianza e historial de decisión, que son justamente los elementos necesarios para administrar los modos de falla descritos arriba.
Próximo paso
Enumere las diez tareas recurrentes que más tiempo consumen a su equipo de riesgo o compliance y ponga cada una en una de tres columnas: regla, ML o LLM. Para cada tarea que quede en una columna de IA, defina antes de cualquier piloto quién revisa el resultado, qué métrica indica que el modelo empeoró (alertas confirmadas, sugerencias rechazadas, errores encontrados en la revisión) y qué regla simple sirve de salvaguarda. El orden de implantación está en Automatización del compliance con IA: por dónde empezar.
Para profundizar: Plataforma nativa de IA: qué significa para GRC, Auditoría interna continua: cómo automatizarla y Software de gobernanza de IA: qué es y cómo elegirlo.
Preguntas frecuentes
¿Cuál es la diferencia entre la automatización por reglas y la IA en la gestión de riesgos?
La regla ejecuta una condición escrita por alguien (si X, entonces Y) y da siempre el mismo resultado para la misma entrada. Los modelos de machine learning aprenden patrones a partir de datos históricos y devuelven una estimación, y los LLM trabajan con texto: leen, resumen, clasifican y redactan. La regla es predecible y fácil de auditar; la IA maneja mejor lo que nadie previó, pero se equivoca de formas menos evidentes.
¿Qué es la alucinación de la IA y cómo reducir el riesgo en los informes de riesgo?
Es lo que el NIST llama confabulación: el modelo genera contenido erróneo o falso presentado con seguridad, incluidas justificaciones y citas inventadas. Para reducir el riesgo, limite el modelo a los registros de su propia base, exija que cada afirmación remita al registro de origen, valide automáticamente cifras e identificadores y mantenga la revisión humana antes de que cualquier texto salga del equipo.
¿Cuándo es mejor usar una regla simple en lugar de IA?
Cuando el criterio es explícito y binario (un plazo venció, una evidencia existe, el MFA está activo), cuando el resultado debe reproducirse de forma idéntica ante un auditor o regulador, cuando no hay historial etiquetado para entrenar un modelo o cuando el volumen es lo bastante bajo para la revisión manual. Si la regla cabe en una frase y casi no tiene excepciones, escriba la regla.
¿Qué es el drift de un modelo y por qué importa en riesgo?
El drift es la pérdida de ajuste entre el modelo y la realidad cuando cambian los datos o el propio fenómeno: una migración a la nube, una reorganización o una nueva forma de ataque. El NIST AI RMF señala que los sistemas de IA pueden requerir un mantenimiento más frecuente por el drift de datos, de modelo o de concepto. En riesgo, el efecto es silencioso: el modelo sigue respondiendo, solo que peor.
Referencias oficiales
Sobre el autor
Founder, Futture.ai | CISSP
Especialista en ciberseguridad, gobernanza y gestión de riesgos, con más de 25 años de experiencia en el sector. CISSP, fundador de Network Secure y Futture.ai.