AI Governance – funcionalidade
Pontuação dinâmica de risco
Os riscos associados à inteligência artificial não permanecem os mesmos após a aprovação. A funcionalidade de pontuação dinâmica de risco da plataforma OneTrust analisa continuamente o comportamento da IA, o contexto e os sinais dos controles, o que ajuda a identificar e compreender o crescimento desses riscos. As equipes podem monitorar o desempenho em produção, explicar o funcionamento dos sistemas, gerar relatórios e conectar as ameaças avaliadas aos cronogramas de governança e aplicação.
Monitoramento contínuo, classificação de riscos em evolução e geração de relatórios
A plataforma OneTrust conecta dados de telemetria da IA, políticas e contexto comercial para classificar continuamente os riscos no estágio de produção. As equipes podem monitorar modelos e agentes, diagnosticar desvios e comportamentos inseguros, explicar mudanças nos riscos, gerar documentação e encaminhar ocorrências para revisão e outras medidas. Esses recursos quantificam os riscos antes que os controles de execução entrem em ação.
Observação de modelos, aplicativos e agentes em produção
O monitoramento na fase de produção deve mostrar mais do que tempo de atividade e latência. As equipes precisam ter visibilidade sobre a qualidade dos resultados, sinais de segurança, indicadores de desvio, padrões de prompt e resposta, atuação dos agentes, sensibilidade dos dados e alterações em ferramentas interligadas.
Isso é importante porque, muitas vezes, os sistemas de IA falham mas permanecem tecnicamente disponíveis. Um chatbot pode continuar respondendo enquanto produz recomendações inadequadas. Um agente pode continuar on-line mesmo quando toma o caminho de ação incorreto. Um modelo pode permanecer responsivo enquanto a qualidade diminui em um fluxo de trabalho regulamentado.
A plataforma OneTrust organiza esses sinais para que as equipes possam monitorar a postura da IA em diferentes sistemas ao longo do tempo.
Pontuação de riscos com contextualização técnica e comercial
Uma única métrica não explica o risco da IA, que muda com base na finalidade, tipo de usuário, sensibilidade dos dados, ações de saída e escopo regulatório, entre outros fatores.
Um processo de pontuação de risco segue quatro etapas:
- Captura do evento ou tendência – como desvio, resultado inseguro, violação de política ou falha de recuperação.
- Contextualização comercial: finalidade do sistema, responsáveis, região, fluxos de trabalho afetados.
- Aplicação de políticas e lógicas vinculadas a estruturas regulatórias, com base em limites e obrigações.
- Atribuição de uma pontuação que possibilite a triagem, a comparação histórica e o encaminhamento dos riscos.
O monitoramento da IA difere das ferramentas gerais de conformidade empregadas no campo da tecnologia, que basicamente indicam se um sistema foi aprovado ou não em determinadas verificações. Essas ferramentas não foram projetadas para mostrar por que o comportamento de um modelo mudou, se o uso indevido dos prompts está aumentando ou se um desvio em uma decisão tem implicações regulatórias.
Explicação do comportamento e diagnóstico das mudanças
O monitoramento só é útil quando permite entender o que mudou e por que isso é importante.
- Os cientistas de dados podem precisar de diagnósticos no nível do prompt ou do modelo.
- As equipes de gestão de riscos podem precisar de uma explicação clara sobre como o comportamento em produção difere dos casos de uso aprovados.
- Os auditores podem precisar de um registro dos riscos detectados, como eles foram avaliados e que ações foram tomadas.
Marcos regulatórios como a Estrutura de Gestão de Riscos em IA do Instituto Nacional de Normas e Tecnologia dos Estados Unidos (NIST AI RMF) e a norma ISO 42001 exigem sinais interpretáveis, históricos de tendências e caminhos de resposta documentados. A plataforma OneTrust proporciona esse contexto às equipes, de forma que o monitoramento fundamenta as decisões de governança, as revisões técnicas e a preparação para auditorias em um mesmo modelo operacional.
Relatórios de uso, cartões de modelo e resultados preparados para auditorias
O monitoramento de dados não deve ser restrito às ferramentas de engenharia. As equipes de governança precisam de relatórios claros, que transformem os sinais dos ambientes de produção em informações práticas – como cartões de modelo, resumos dos sistemas, históricos de ocorrências e painéis de controle para não técnicos.
Esses relatórios devem ser consistentes o suficiente para permitir a comparação entre sistemas, mas também flexíveis o bastante para informar diferentes partes interessadas. Cada departamento – jurídico, engenharia, diretoria, auditoria – precisa de uma visão diferente. A plataforma OneTrust traduz os dados de monitoramento em relatórios de negócios, mantendo intacta a fundamentação técnica.
O monitoramento da IA se diferencia da conformidade geral pela necessidade de conectar o desempenho à explicabilidade da tecnologia, às finalidades e às expectativas regulatórias.
Detecção de riscos associada a ações durante a execução
A pontuação dinâmica de risco e os controles de execução trabalham em conjunto, mas desempenham papéis diferentes. A pontuação dinâmica detecta, mede, explica e prioriza os riscos, enquanto os controles de execução bloqueiam, mascaram, direcionam ou restringem o comportamento dos sistemas quando uma ação é necessária.
Quando uma pontuação de risco ultrapassa o limite, as equipes devem ser capazes de identificar que sinais mudaram, quais políticas e controles foram aplicados e que ações foram recomendadas ou executadas automaticamente.
OneTrust é classificada como "visionária" no relatório Magic Quadrant™ da Gartner® sobre Plataformas de Governança de IA em 2026.
Saiba por que a Gartner reconheceu a OneTrust em seu primeiro relatório Magic Quadrant sobre plataformas de governança de IA.
Perguntas frequentes
É a medição contínua de riscos associados a sistemas de inteligência artificial com base em sinais de produção e no contexto de governança. Esse monitoramento combina indicadores técnicos – como desvios, resultados inseguros ou violações de políticas – ao contexto de negócios – finalidade do sistema, tipo de usuário, sensibilidade dos dados e escopo regulatório. O objetivo não é só detectar um evento, mas expor sua gravidade e indicar ações – gerando, portanto, informações mais úteis do que indicadores estáticos.
Esse processo costuma ser feito por meio da coleta de sinais de qualidade, segurança, uso, desvios e cumprimento de políticas, a partir da operação real dos sistemas. Esses sinais podem ser enriquecidos com informações contextuais, comparados com limites e vinculados a alertas e caminhos de resposta. Isso ajuda a identificar os problemas que precisam de ação rápida. O monitoramento deve refletir as finalidades dos sistemas, não só sua disponibilidade técnica.
A plataforma OneTrust dá suporte ao cumprimento das obrigações de monitoramento descritas no artigo 15 da Lei de Inteligência Artificial da União Europeia. O software permite observar o comportamento dos sistemas de IA em tempo real, documentar os sinais de risco e vincular esses sinais a ações de governança e controle. Isso contribui com a supervisão de projetos que necessitam de revisão contínua após a implementação, pois as equipes podem manter um registro do que mudou e de como isso foi avaliado e acompanhado.
A solução AI Governance ajuda as organizações a substituir as revisões pontuais por uma supervisão contínua. O software coleta sinais dos ambientes de produção, rastreia tendências e alimenta fluxos de trabalho de resposta. Além disso, mantém registros de monitoramento e desempenho ao longo do tempo.
Uma mede e interpreta os riscos; os outros agem sobre eles A pontuação dinâmica é a camada de monitoramento e diagnóstico: detecta mudanças de comportamento, explica o que determina a pontuação e prioriza as situações que requerem revisão ou ação. Os controles de execução representam a camada de aplicação, que bloqueia, redireciona, oculta ou restringe comportamentos com base nesses sinais e na lógica das políticas.
Você também pode se interessar
Avalie, explique e comunique continuamente os riscos da IA em meio à transformação de modelos, agentes e casos de uso durante a fase de produção.