Governança de IA – funcionalidade
Controles em tempo de execução
O sistema de IA já está em produção. Modelos e agentes autônomos atuam mais rápido do que os formulários, as políticas estáticas e os ciclos de revisão conseguem acompanhar.
Os controles em tempo de execução da solução AI Governance da OneTrust fecham essa lacuna. A descoberta contínua mantém o inventário de IA atualizado; o mecanismo de aplicação de políticas transforma regras escritas em controles legíveis por máquina, e a observabilidade em tempo real permite agir onde os riscos se manifestam. A governança deixa de ser um ponto fixo de verificação e se torna uma camada de controle que funciona junto com a IA.
Controle contínuo da IA em produção
A plataforma OneTrust combina a construção de inventários em tempo real, a aplicação de políticas, a observabilidade durante a execução e os controles incorporados aos aplicativos. Isso ajuda a administrar a IA em produção sem afetar seu aproveitamento.
Descoberta contínua e inventário em tempo real
O controle em tempo de execução (runtime control) começa com a visibilidade sobre o que está de fato implementado. A plataforma OneTrust usa o acesso com privilégios mínimos para descobrir ativos de inteligência artificial em serviços como AWS, Azure e GCP e reúne metadados estruturados em um inventário centralizado de governança.
Esse inventário é conectado: a plataforma mapeia as relações entre modelos, agentes, conjuntos de dados e casos de uso, para que as equipes compreendam onde os riscos se originam, como eles se propagam e onde os controles precisam ser aplicados.
A descoberta é executada com uma cadência controlável, o que faz com que as auditorias e revisões de risco reflitam a realidade atual do estágio de produção, em vez de registros de entrada desatualizados. A reconciliação automatizada reduz o trabalho manual de gestão do inventário, o que permite que as equipes de governança se concentrem nas decisões, e não na coleta dos dados.
Política como código (policy-as-code)
Políticas escritas não se aplicam sozinhas. A plataforma OneTrust traduz as políticas de governança de IA em regras e controles legíveis por máquina, o que ajuda as equipes a aplicá-las de forma consistente em todos os ambientes.
- Bloqueio ou restrição de acesso quando um modelo solicita um conjunto de dados sensível.
- Indicação de violação e encaminhamento à remediação quando há divergência de desempenho entre grupos protegidos em casos de alto risco.
- Sinalização de desvio ou mudança de comportamento em modelos de terceiros
- Revisão em caso de mudanças significativas no uso do sistema ou no perfil de risco.
O ser humano permanece no ciclo nos pontos em que seu julgamento é necessário, mas consome menos tempo identificando problemas e mais tempo respondendo a eles.
Observabilidade em tempo de execução
O inventário mostra tudo o que existe, enquanto a telemetria mostra o que tudo isso faz. A plataforma OneTrust coleta sinais em tempo real dos sistemas em que a IA opera, o que permite monitorar continuamente o comportamento dos sistemas em produção, identificar riscos e aplicar políticas em tempo real.
Ao conectar a telemetria ao contexto de governança, as organizações podem detectar mais cedo desvios, anomalias, problemas de segurança e violações de políticas. Ao mesmo tempo, geram as evidências necessárias para assegurar a supervisão rigorosa dos sistemas de IA, a conformidade com as normas e regulamentos e a preparação para auditorias.
- Monitoramento contínuo de ferramentas, modelos e agentes de IA durante a execução em ambientes de produção.
- Avaliação das operações a partir de fatores como sinais de uso, consumo de tokens e eficácia das barreiras de proteção.
- Detecção da exposição de dados sensíveis e violações de políticas, com a análise de registros e a identificação de informações pessoais.
- Conversão da atividade em tempo de execução em evidências operacionais para equipes de governança, conformidade e auditoria.
Controles dentro dos aplicativos
Para equipes que precisam de controles incorporados diretamente ao código dos aplicativos, o SDK OneTrust AI Guard ajuda a detectar e controlar os dados sensíveis que fluem pelos sistemas de IA, tanto nos prompts quanto nas saídas dos modelos.
Por meio de ações incorporadas – como permitir, mascarar e bloquear –, as equipes podem inserir controles de privacidade mais perto dos pontos de uso e reduzir o risco de exposição de dados sensíveis.
Administração de agentes
Os agentes de IA operam continuamente por meio de identidades de máquina, como chaves de API, tokens e contas de serviço, e seu comportamento pode mudar conforme os fluxos de trabalho evoluem. A plataforma OneTrust ajuda a descobrir agentes implementados, manter o inventário atualizado a cada mudança e acompanhar o comportamento desses agentes em produção.
A plataforma mapeia relações entre agentes, modelos, dados e casos de uso. Com isso, as equipes podem atribuir ações, restringir o raio de impacto de incidentes e fortalecer a prestação de contas relativa às decisões feitas por IA.
Governança em tempo de execução
Quando os riscos surgem mais rápido do que a capacidade de reação, as organizações pagam uma espécie de "taxa de latência de governança". Filas de revisão, encaminhamento de ocorrências via tickets e avaliações periódicas atrasam as entregas, abrem janelas de risco e reduzem o retorno sobre o investimento em IA.
A plataforma OneTrust ajuda a eliminar esses problemas combinando controles lógicos, telemetria e encaminhamento automatizado. O objetivo não é remover o ser humano da governança, e sim reduzir o tempo entre a identificação do risco e a resposta, de forma que a governança possa operar na velocidade da IA.
A detecção de IA, os recursos de aplicação de políticas, os controles incorporados aos aplicativos e a ingestão de sinais da execução são combinados em uma camada unificada de governança contínua.
OneTrust é classificada como "visionária" no relatório Magic Quadrant™ da Gartner® sobre Plataformas de Governança de IA em 2026.
Saiba por que a Gartner reconheceu a OneTrust em seu primeiro relatório Magic Quadrant sobre plataformas de governança de IA.
Perguntas frequentes
A plataforma OneTrust usa a abordagem da política como código (policy-as-code). Um mecanismo de aplicação de políticas de IA transforma diretrizes escritas de governança em regras legíveis por máquina, que podem ser acionadas em coordenação com a telemetria em tempo real dos pontos exatos em que os riscos se manifestam, sem que seja preciso aguardar a revisão manual.
Dependendo da política e do contexto do risco, a plataforma pode bloquear ou restringir acessos, mascarar dados sensíveis por meio do SDK AI Guard, encaminhar ocorrências à reavaliação ou direcioná-las aos responsáveis corretos via fluxos de trabalho automatizados.
O software combina descoberta baseada em nuvem e observabilidade em tempo de execução. Os recursos de descoberta identificam modelos, agentes e conjuntos de dados implementados, enquanto a ingestão dos dados de telemetria monitora o comportamento em produção e fundamenta as decisões de governança com sinais em tempo real.
Sim. A plataforma permite descobrir agentes, mapear suas relações com modelos e dados, monitorar seu comportamento durante a execução e rastrear suas ações até a origem.
O inventário é mantido por meio da descoberta contínua. Isso ajuda a assegurar que as auditorias, revisões de riscos e decisões de aplicação reflitam os ambientes de produção atuais.
Você também pode se interessar
Amplie a governança para a execução