Na gestão de riscos, "usar IA" não é uma decisão única. É uma escolha tarefa a tarefa entre três ferramentas diferentes: regras escritas por pessoas, modelos de machine learning treinados com dados históricos e modelos de linguagem (LLMs) que leem e redigem texto. Cada uma acerta e erra de um jeito. Este artigo compara as três em tarefas concretas do dia a dia de risco e compliance, mostra os modos de falha de cada uma e indica quando uma regra simples continua sendo a melhor resposta.
Este texto não trata de como escolher uma plataforma nem do que torna uma arquitetura "nativa de IA". Esses temas estão em Plataforma de IA empresarial para GRC: o que avaliar e em Plataforma nativa de IA: o que significa para GRC. A pergunta aqui é mais operacional: para cada tarefa, qual mecanismo faz sentido e o que pode dar errado com ele.

Três mecanismos diferentes sob o mesmo rótulo
Muita coisa vendida como "IA" em GRC é, na verdade, uma das três abordagens abaixo, ou uma mistura delas. Separar as três ajuda a fazer as perguntas certas.
- Regras. Condições escritas por pessoas: "se o prazo de uma ação de tratamento venceu, notifique o responsável"; "se a vulnerabilidade está no catálogo KEV da CISA, coloque no topo da fila". Mesma entrada, mesmo resultado, sempre. A lógica é legível por qualquer auditor.
- Machine learning. Modelos que aprendem padrões a partir de exemplos: quais achados de auditoria costumam ser classificados como críticos, qual é o comportamento normal de acesso de um grupo de usuários. Devolvem uma estimativa, não uma certeza.
- Modelos de linguagem (LLMs). Modelos que trabalham com texto livre: leem uma política, um questionário de fornecedor ou um relatório, resumem, classificam e redigem. Produzem texto fluente mesmo quando estão errados.
O AI Risk Management Framework (AI RMF 1.0) do NIST, de uso voluntário e publicado em janeiro de 2023, dedica um apêndice inteiro (Apêndice B) ao que muda nos riscos da IA em relação ao software tradicional. Entre os pontos listados estão dados de treino que ficam desatualizados em relação ao contexto de uso, maior dificuldade em prever modos de falha de grandes modelos pré-treinados e a necessidade de manutenção mais frequente por causa de drift de dados, de modelo ou de conceito. Uma regra não tem nenhum desses problemas. Ela tem outros.
Comparativo tarefa a tarefa
A tabela resume onde cada abordagem tende a funcionar melhor em tarefas recorrentes de risco. Os detalhes de cada linha vêm logo abaixo.
| Tarefa | Regra resolve bem | Onde ML ou LLM ajuda | Principal cuidado |
|---|---|---|---|
| Prazos, vencimentos e SLAs | Tudo: evidência vencida, ação atrasada, revisão anual pendente | Quase nada | Usar IA aqui só adiciona incerteza |
| Classificação de achados | Campos estruturados: origem, severidade, ativo | Texto livre de auditorias, pentests e incidentes classificado em uma taxonomia | Classes inconsistentes para casos parecidos |
| Sugestão de mapeamento de controles | Mapeamentos já aprovados, aplicados de novo | LLM propõe correspondências entre um controle e requisitos de outros frameworks | Semelhança de texto não é equivalência; requisito citado pode não existir |
| Detecção de anomalias | Limites conhecidos: acesso privilegiado fora do horário, volume acima de um teto | ML aprende o padrão normal e sinaliza desvios que ninguém escreveu | Falsos positivos e drift |
| Priorização de vulnerabilidades | Gatilhos fixos: está no KEV, expõe ativo crítico na internet | Ordenar o restante da fila combinando muitos sinais | Ordem difícil de explicar se não houver justificativa registrada |
| Redação de relatórios e sínteses | Modelos de relatório com campos preenchidos da base | LLM redige o rascunho da síntese executiva a partir dos registros | Confabulação: números, fatos e citações inventados |
| Leitura de documentos de fornecedores | Checagem de presença: o questionário veio, o relatório está no prazo | LLM extrai respostas e aponta lacunas em documentos longos | Conteúdo do documento manipulando o modelo (injeção de prompt) |
Classificação de achados
Uma regra classifica bem o que já chega estruturado: um achado de pentest com severidade crítica em um ativo marcado como crítico vai para a categoria mais alta, sem discussão. O problema é o texto livre. Achados de auditoria interna, relatos de incidente e observações de avaliação de fornecedor raramente seguem um padrão, e uma regra por palavra-chave erra de forma previsível ("senha" aparece tanto em um achado de política quanto em um de vazamento).
Aqui um modelo de ML treinado com classificações anteriores, ou um LLM orientado pela taxonomia da empresa, sugere categoria, controle afetado e severidade. O cuidado é a consistência: dois achados quase iguais podem receber classes diferentes, e o modelo não avisa. A prática que funciona é tratar a classificação como sugestão com aprovação humana e revisar periodicamente uma amostra das classificações aceitas para medir o erro.
Sugestão de mapeamento de controles
Mapear um controle interno para requisitos de vários frameworks é trabalho de leitura comparada, e LLMs são bons nisso como ponto de partida: dado o controle "dados em repouso são criptografados", o modelo propõe os requisitos de ISO/IEC 27001, NIST CSF ou de uma política interna que tratam do mesmo tema. Isso encurta o trabalho de quem começa do zero.
Dois riscos exigem atenção. O primeiro é confundir semelhança de vocabulário com equivalência de exigência: dois requisitos podem falar de criptografia e exigir coisas diferentes. O segundo é a confabulação, em que o modelo cita um identificador de requisito que não existe ou atribui a uma norma algo que ela não diz. Uma vez revisado e aprovado por quem conhece o framework, o mapeamento deixa de ser sugestão e vira dado. Daí em diante, aplicá-lo de novo é trabalho de regra, não de IA.
Detecção de anomalias
Regras de limite detectam bem o que já se sabe procurar: acesso administrativo às 3h, exportação acima de um volume, alteração de configuração fora de janela de mudança. Como mostramos em Auditoria interna contínua: como automatizar, o ML entra para o que ninguém escreveu antes: um padrão de gasto, acesso ou aprovação que foge do histórico daquele usuário ou processo.
O preço é o falso positivo, e ele é maior do que parece quando o evento real é raro. Um exemplo hipotético: 10.000 eventos por dia, dos quais 10 são de fato problemas. Um modelo que detecta 90% dos casos reais com taxa de falso positivo de 2% sinaliza 9 casos verdadeiros e cerca de 200 falsos. Mais de 95% dos alertas seriam ruído, mesmo com um modelo que parece bom no papel. Por isso a métrica que importa para a equipe é a proporção de alertas que se confirmam, não a acurácia anunciada.
O segundo preço é o drift. O modelo aprendeu o "normal" de antes de uma migração para a nuvem, de uma reorganização ou de um novo sistema, e passa a errar sem dar sinal. O AI RMF trata disso nas subcategorias MEASURE 2.4 (monitorar o comportamento do sistema em produção) e MANAGE 4.1 (planos de monitoramento pós-implantação, com mecanismos de contestação, substituição da decisão e gestão de mudanças).

Priorização de vulnerabilidades
Algumas decisões de prioridade não deveriam depender de modelo nenhum. Se uma vulnerabilidade consta do catálogo de vulnerabilidades exploradas conhecidas (KEV) da CISA e afeta um ativo crítico exposto à internet, uma regra coloca o caso no topo, de forma previsível e fácil de justificar. A IA é útil para ordenar o restante da fila, combinando sinais como exposição, criticidade do ativo, controles compensatórios e dados tratados. A lógica de priorizar por exploração e contexto, e não só pela nota CVSS, está em 48 mil CVEs por ano: por onde começar.
Redação de relatórios e sínteses
Redigir é onde os LLMs mais economizam tempo e onde o erro é mais perigoso, porque texto bem escrito parece verdadeiro. O perfil de IA generativa do NIST (NIST AI 600-1, julho de 2024) define confabulação como a produção de conteúdo errado ou falso apresentado com confiança, conhecida informalmente como "alucinação". O documento explica que isso decorre do próprio desenho dos modelos generativos, que preveem a próxima palavra com base em padrões estatísticos, e alerta que as respostas podem incluir lógica ou citações confabuladas para justificar a conclusão.
Em um relatório de risco, isso significa um número que não está na base, um controle descrito como efetivo sem evidência ou uma referência normativa inventada. Quatro salvaguardas reduzem o problema:
- Limite a fonte. O modelo redige a partir dos registros da própria base (riscos, controles, evidências), não do conhecimento geral dele.
- Exija a origem. Cada afirmação do rascunho aponta para o registro de onde saiu; o que não tem origem é cortado.
- Valide com regra. Números, datas e identificadores de requisito citados no texto são conferidos automaticamente contra a base. Aqui a regra vigia a IA.
- Revise antes de enviar. Nenhum texto gerado vai ao comitê ou ao conselho sem leitura de quem responde por ele.
Leitura de documentos de fornecedores
Extrair respostas de questionários longos, relatórios de asseguração e políticas de terceiros é uma boa tarefa para LLMs. Há, porém, um risco próprio: o documento lido pode conter instruções que alteram o comportamento do modelo. A OWASP classifica isso como injeção de prompt (LLM01:2025) e descreve a forma indireta, que ocorre quando o modelo recebe conteúdo de fontes externas, como sites ou arquivos. Na prática, o texto extraído de um documento de fornecedor deve ser tratado como dado não confiável e conferido por um analista antes de alterar a avaliação de risco daquele terceiro.
Modos de falha: como cada abordagem erra
Escolher entre regra e IA é, em boa parte, escolher que tipo de erro você prefere administrar.
- Regras envelhecem em silêncio. Uma regra escrita para o ambiente de dois anos atrás continua rodando sem disparar nunca, e ninguém percebe. Teste cada regra crítica com um caso conhecido de tempos em tempos. Outro sintoma é a explosão de exceções: quando uma regra precisa de dezenas de "exceto se", provavelmente o problema pede outra abordagem.
- ML perde aderência e gera ruído. Drift e falsos positivos são os dois modos de falha mais comuns. Acompanhe a taxa de alertas confirmados e a taxa de sugestões rejeitadas ao longo do tempo; uma piora gradual é sinal de drift.
- LLMs erram com confiança. Confabulação, respostas diferentes para a mesma pergunta e manipulação por conteúdo externo. A defesa é estrutural: fonte limitada, origem obrigatória, validação automática e revisão humana.
Em todos os casos, o NIST lembra no AI RMF que medidas de acurácia devem considerar taxas de falso positivo e de falso negativo e ser feitas com conjuntos de teste representativos das condições reais de uso. Uma demonstração com dados de exemplo não mede nada disso.
Quando uma regra simples é a melhor escolha
A IA não é a opção "avançada" e a regra a "básica". Em muitas tarefas de risco, a regra é simplesmente a ferramenta certa. Ela tende a ganhar quando:
- O critério é explícito e binário. Um prazo venceu, uma evidência existe, o MFA está ativo, um fornecedor crítico está sem avaliação. Não há o que estimar.
- O resultado precisa ser reproduzido de forma idêntica. Se um auditor ou regulador perguntar por que algo foi classificado assim, a resposta "porque a condição X é verdadeira" é mais forte do que uma probabilidade.
- Não há histórico para aprender. Um modelo de ML sem exemplos rotulados suficientes só reproduz ruído. Comece com regras e acumule as decisões humanas; elas viram o histórico de treino depois.
- O custo do erro é conhecido e assimétrico. Se deixar passar um caso é inaceitável, uma regra conservadora, mesmo ruidosa, costuma ser mais defensável do que um modelo que às vezes não sinaliza.
- O volume é baixo. Se a equipe consegue revisar tudo, a IA economiza pouco e acrescenta um sistema para governar.
Um teste rápido: se a regra cabe em uma frase e quase nunca tem exceção, escreva a regra.
Combinação: a regra como trilho, a IA como sugestão
Os desenhos que funcionam raramente escolhem um lado só. Três padrões aparecem com frequência:
- Regra antes, IA depois. Gatilhos fixos resolvem os casos óbvios (KEV, prazo vencido, ativo crítico exposto) e a IA ordena ou classifica o que sobra.
- IA propõe, aprovação vira regra. Um mapeamento de controle ou uma classificação sugerida pela IA, depois de aprovada, passa a ser dado da base e é reaplicada de forma determinística.
- Regra vigia a IA. Validações automáticas conferem se o que o modelo citou existe: o requisito, o número, o registro de origem.
Em todos eles, a decisão sobre aceitar um risco, aprovar uma exceção ou levar um tema ao conselho continua com uma pessoa. No Eagle, da Futture, a IA é usada para classificação assistida, identificação de relações, priorização contextual e identificação de inconsistências, e o usuário revisa, aprova, rejeita ou ajusta cada resultado relevante. A plataforma foi desenhada para que cada recomendação mantenha contexto, origem dos dados, justificativa, nível de confiança e histórico de decisão, que são justamente os elementos necessários para administrar os modos de falha descritos acima.
Próximo passo
Liste as dez tarefas recorrentes que mais consomem tempo da sua equipe de risco ou compliance e coloque cada uma em uma de três colunas: regra, ML ou LLM. Para cada tarefa que ficar nas colunas de IA, defina antes de qualquer piloto quem revisa o resultado, qual métrica indica que o modelo piorou (alertas confirmados, sugestões rejeitadas, erros encontrados na revisão) e qual regra simples serve de salvaguarda. A ordem de implantação está em Automação de compliance com IA: por onde começar.
Para aprofundar: Plataforma nativa de IA: o que significa para GRC, Auditoria interna contínua: como automatizar e Software de Governança de IA: O Que É e Como Escolher.
Perguntas frequentes
Qual a diferença entre automação por regras e IA na gestão de riscos?
A regra executa uma condição escrita por alguém (se X, então Y) e dá sempre o mesmo resultado para a mesma entrada. Modelos de machine learning aprendem padrões a partir de dados históricos e devolvem uma estimativa, e os LLMs trabalham com texto: leem, resumem, classificam e redigem. A regra é previsível e fácil de auditar; a IA lida melhor com o que ninguém previu, mas erra de formas menos óbvias.
O que é alucinação de IA e como reduzir o risco em relatórios de risco?
É o que o NIST chama de confabulação: o modelo gera conteúdo errado ou falso apresentado com confiança, inclusive justificativas e citações inventadas. Para reduzir o risco, limite o modelo aos registros da própria base, exija que cada afirmação aponte para o registro de origem, valide automaticamente números e identificadores e mantenha a revisão humana antes de qualquer texto sair da equipe.
Quando é melhor usar uma regra simples em vez de IA?
Quando o critério é explícito e binário (um prazo venceu, uma evidência existe, o MFA está ativo), quando o resultado precisa ser reproduzido de forma idêntica diante de auditoria ou regulador, quando não há histórico rotulado para treinar um modelo ou quando o volume é baixo o suficiente para revisão manual. Se a regra cabe em uma frase e quase não tem exceção, escreva a regra.
O que é drift de modelo e por que ele importa em risco?
Drift é a perda de aderência entre o modelo e a realidade quando os dados ou o próprio fenômeno mudam: uma migração para a nuvem, uma reorganização ou uma nova forma de ataque. O NIST AI RMF aponta que sistemas de IA podem exigir manutenção mais frequente por causa de drift de dados, de modelo ou de conceito. Em risco, o efeito é silencioso: o modelo continua respondendo, só que pior.
Referências oficiais
Sobre o autor
Founder, Futture.ai | CISSP
Especialista em Cibersegurança, Governança e Gestão de Riscos, com mais de 25 anos de experiência no setor. CISSP, fundador da Network Secure e da Futture.ai.