AI Governance – funcionalidade
Descoberta e registro de IA
A governança da inteligência artificial falha quando uma simples pergunta não pode ser respondida: que recursos de IA estão sendo usados na organização? Os processos formais identificam alguns sistemas, mas deixam passar recursos incorporados a ferramentas de software, agentes desenvolvidos internamente, alterações em modelos e a chamada "IA oculta" – aplicações não abrangidas pela supervisão regular. As funcionalidades de descoberta e registro da solução OneTrust AI Governance criam um inventário permanentemente atualizado de casos de uso, modelos e agentes de IA, além de produtos e serviços com IA incorporada. Com isso, as equipes podem monitorar, em um só lugar, os metadados, o histórico de versões e o status de implementação dessas tecnologias, o que permite que as decisões de governança sejam tomadas a partir de uma base conhecida e confiável.
Um inventário atualizado como suporte às decisões de governança
A plataforma OneTrust combina descoberta de IA, metadados padronizados, rastreamento de responsabilidades, identificação de aplicações ocultas e histórico de alterações. As equipes têm plena consciência sobre os recursos de IA que estão sendo usados e o estado em que eles estão. Isso mantém um inventário de IA atualizado e útil em diferentes partes de uma empresa.
Sistemas declarados e não declarados
A maioria das organizações começa a usar sistemas IA antes mesmo que suas equipes de governança comecem a analisá-los: as equipes comerciais adquirem soluções com agentes incorporados; as equipes de produto criam agentes internamente; os desenvolvedores testam APIs ligadas a modelos externos. Cada um desses sistemas é gerenciável por si só, mas o inventário completo dessas tecnologias é fragmentado.
Um processo viável de descoberta de IA deve seguir quatro etapas:
Um processo viável de descoberta de IA deve seguir quatro etapas:
- Identificação de sistemas de IA declarados por meio da admissão, revisão de arquitetura e integração de modelos.
- Detecção de sistemas de IA não declarados por meio da avaliação dos fornecedores, atestados por parte dos responsáveis, processos de integração e verificações periódicas.
- Classificação de cada item detectado segundo a finalidade, o tipo de modelo, o processo de negócios associado e o status de implementação.
- Acionamento de fluxos de trabalho de governança quando um sistema recém-descoberto requer revisão formal.
Os metadados que um inventário de IA precisa
Um inventário de IA eficaz vai além do básico. As equipes precisam de uma visão clara e consistente de cada sistema: o que ele faz, como é construído, que dados usa, quem é responsável por ele e que aspectos requerem supervisão.
Esse nível de detalhe também serve para atender às expectativas regulatórias, que dependem de uma documentação robusta e da clareza quanto à finalidade dos sistemas e aos responsáveis por eles.
A plataforma OneTrust reúne todas essas informações em um único registo estruturado. Isso facilita a comparação entre sistemas, a identificação de lacunas e a produção de documentos consistentes, sem a necessidade de reconstruir as mesmas informações em cada revisão.
Ciclos de vida, alterações e responsabilidades
Quando ninguém é responsável pelos registros, o inventário de IA fica desatualizado. Um registro deve mostrar quem é responsável pelo sistema, em que ponto de seu ciclo de vida ele se encontra e o que mudou desde a última revisão. Deve também deixar claro se o sistema foi proposto, desenvolvido, testado, aprovado para uso, restrito, reavaliado ou descontinuado.
O histórico de alterações é importante porque muitos riscos associados à IA mudam sem que o nome do produto seja alterado. Atualizações rápidas, trocas de modelos, mudanças nas fontes de recuperação ou novas ações dos agentes podem alterar os perfis de risco. O registro deve mostrar o que mudou, quando mudou, quem aprovou e se uma reavaliação é necessária.
A gestão do inventário não é uma capacidade secundária, e sim a camada operacional que dá sustentação à revisão, ao monitoramento e à prestação de contas.
IA oculta e incorporada a outras tecnologias
A IA oculta vai além do uso individual de chatbots públicos pelos funcionários da empresa. Essa categoria inclui ainda ferramentas de uso geral com funcionalidades de IA ativadas sem revisão, assistentes virtuais incorporados a aplicativos convencionais e fornecedores que adicionam recursos de IA após a contratação, por exemplo. Muitas vezes, esses casos escapam da governança, pois são introduzidos pelos canais regulares de software.
Um registo robusto trata a IA oculta como um caso contínuo de descoberta. As equipes verificam regularmente as atualizações dos fornecedores, confirmam os usos com os responsáveis pelos sistemas, comparam os registros de aquisição e arquitetura e encaminham serviços desconhecidos para revisão e posterior inclusão na estrutura formal de governança.
Diferentemente das ferramentas gerais de conformidade no campo da tecnologia, que se concentram em evidências e no estado dos controles, a governança de IA requer uma visibilidade mais profunda – que envolve a finalidade dos sistemas, o uso dos dados, a supervisão e as alterações nos ciclos de vida.
Conexão entre inventário e governança
O registro é só uma parte do programa. Fluxos de trabalho de governança lidam com a admissão das tecnologias, sua aprovação e revisão, enquanto os controles de execução se encarregam da produção. O registro contém os dados dos quais esses processos dependem.
Essa estrutura também dá suporte ao trabalho regulatório. As equipes responsáveis pela conformidade com a Lei de Inteligência Artificial da União Europeia, por exemplo, podem usar o mesmo registro para fundamentar a classificação, a documentação, a coleta de evidências e a prestação de contas.
Um registro atualizado de IA fornece às equipes o conhecimento necessário para que as políticas, a avaliação de riscos e o monitoramento funcionem bem.
OneTrust é classificada como "visionária" no relatório Magic Quadrant™ da Gartner® sobre Plataformas de Governança de IA em 2026.
Saiba por que a Gartner reconheceu a OneTrust em seu primeiro relatório Magic Quadrant sobre plataformas de governança de IA.
Perguntas frequentes
É o registro de sistemas, modelos, agentes e recursos de inteligência artificial incorporados a ferramentas. Esse registro armazena informações essenciais relativas aos projetos de IA, como finalidades, responsáveis, estágio do ciclo de vida, fontes de dados e status de implementação. Um registro bem estruturado também rastreia o histórico de versões e liga cada item a aprovações, avaliações e ações de monitoramento.
A chamada IA oculta (shadow AI) é identificada por meio da comparação entre múltiplas fontes, o que inclui a revisão de registros de aquisição, questionários de fornecedores, fontes de arquitetura, dados de uso de APIs e atestados dos responsáveis. Qualquer sistema de IA não declarado deve ser adicionado ao registro, classificado e encaminhado para revisão. Assim, as equipes detectam agentes e recursos de IA incorporados sem terem passado por processos formais de admissão.
A plataforma OneTrust dá suporte ao trabalho de documentação relacionado à Lei de IA da UE por meio da estruturação do inventário de IA em torno de finalidades, responsáveis, fontes de dados, controles e evidências. Isso cria um registro atualizado para a gestão de riscos, documentação técnica e medidas de transparência, além de reduzir a lacuna entre o que é implementado e o que é documentado.
A plataforma OneTrust ajuda as equipes a capturar de forma consistente os principais detalhes necessários para a governança de sistemas de IA – como finalidades, contexto e responsabilização. O software também mantém essas informações documentadas e organizadas para fins de conformidade e auditoria.
Na prática, as equipes podem criar um único registro de inventário padrão e reaproveitá-lo em diferentes ações de conformidade regulatória, avaliações e auditorias.
A descoberta e o registro revelam quais sistemas de IA existem, quem é responsável por eles e em que estado eles se encontram. Os fluxos de trabalho de governança tratam do trajeto desses sistemas ao longo da admissão, revisão, aprovação e reavaliação.
Você também pode se interessar
Construa um sistema de registro para os aplicativos, agentes e recursos incorporados de IA em toda a empresa.