Función de gobernanza de la IA
Calificación dinámica de riesgos
El riesgo de la IA no se mantiene fijo después de la aprobación. La calificación dinámica de riesgos de OneTrust analiza de forma continua el comportamiento de la IA, el contexto y las señales de control para que los equipos puedan ver cuándo aumentan los riesgos y por qué. Por su parte, los equipos pueden monitorizar el rendimiento de producción, explicar el comportamiento del sistema, generar informes y conectar los riesgos que se califiquen con la gobernanza y la aplicación posteriores.
Monitoriza los sistemas de IA, califica los riesgos y genera informes de manera continua
OneTrust conecta la telemetría de la IA, el contexto de la política y el contexto empresarial para calificar los riesgos en la fase de producción de manera continua. Además, los equipos pueden monitorizar modelos y agentes, diagnosticar desviaciones y comportamientos inseguros, explicar por qué cambian los riesgos, generar paneles de información y documentación de modelos, y canalizar las incidencias que se califiquen para su revisión o para aplicar su cumplimiento. En este respecto, puedes explorar las funciones de supervisión e informes que cuantifican los riesgos antes de que se apliquen los controles en tiempo real.
Observación de modelos, aplicaciones y agentes en la fase de producción
La monitorización de la fase de producción debe mostrar más que el tiempo de actividad y la latencia, puesto que los equipos necesitan una buena visibilidad en torno a la calidad de los resultados, las señales de seguridad, los indicadores de desviaciones, los patrones de los prompts y las respuestas, las acciones de los agentes, el contexto de la sensibilidad de los datos y cualquier cambio en las herramientas conectadas o en las fuentes de recuperación.
Esto es importante porque los sistemas de IA suelen fallar a pesar de seguir disponibles a nivel técnico. Por ejemplo, un chatbot puede continuar generando respuestas mientras produce recomendaciones que no están respaldadas, un agente puede permanecer en línea mientras opta por acciones equivocadas, y un modelo puede seguir activo mientras la calidad disminuye en un flujo de trabajo regulado.
A pesar de ello, OneTrust procesa y organiza estas señales para que los equipos puedan monitorizar la postura de la IA en los diferentes sistemas y a lo largo del tiempo.
Calificación de riesgos a partir del contexto técnico y empresarial
Una sola métrica no es capaz de explicar el riesgo de la IA, puesto que el riesgo cambia según el propósito previsto, el tipo de usuario, la sensibilidad de los datos, las acciones a la hora de generar resultados, el ámbito de la normativa y la severidad del comportamiento observado.
Por este motivo, un proceso de calificación práctico sigue estos cuatro pasos:
- Se captura el evento o la tendencia ―como las desviaciones, resultados no seguros, infracciones de políticas o fallos de recuperación―.
- Se agrega el contexto del negocio ―como el propósito del sistema, el responsable, la región y el flujo de trabajo que se ve afectado―.
- Se aplica la lógica de la política y del marco de acuerdo con umbrales y obligaciones.
- Se asigna una calificación que apoye el triaje, la escalada y la comparación histórica.
Aquí es donde la supervisión de la IA difiere de las herramientas típicas de cumplimiento normativo continuo, ya que las herramientas de cumplimiento de TI pueden mostrar si una verificación se ha superado con éxito pero no están diseñadas para mostrar por qué cambió el comportamiento de un modelo, si está incrementando el uso indebido de prompts, o si las desviaciones adquieren mayor importancia porque el sistema respalda una decisión regulada.
Explicación del comportamiento y diagnóstico de cambios
La supervisión solo es de ayuda si los interesados pueden entender qué cambió y la importancia de los cambios.
- Los científicos de datos necesitan diagnósticos a nivel de prompts o a nivel de modelo.
- Los equipos de riesgo necesitan una explicación clara de cómo el comportamiento en producción difiere del caso práctico que se ha aprobado.
- Los auditores requieren un registro de qué se ha detectado, cómo se ha evaluado y qué medidas se han tomado.
El marco de gestión de riesgos de IA del NIST y la ISO 42001 requieren más que un panel de información, necesitan señales que se puedan interpretar, un historial de tendencias y rutas para las respuestas correctamente documentadas. En este aspecto, OneTrust le ofrece a los equipos este contexto para que la supervisión pueda apoyar la revisión técnica, las decisiones de gobernanza y las conversaciones en torno a auditorías en el mismo modelo operativo.
Generación de informes de uso, tarjetas de modelos y contenido listo para auditorías
Los datos que se monitorizan no deben quedarse atrapados en las herramientas de ingeniería, ya que los equipos de gobernanza requieren informes claros que conviertan las señales de producción en resultados útiles —como tarjetas de modelo, resúmenes del sistema, historiales de incidencias y paneles de información para audiencias sin conocimiento técnico—.
Estos informes deben ser lo suficientemente consistentes para comparar sistemas, pero lo bastante flexibles para cubrir las necesidades de los diferentes interesados. Por ejemplo, los equipos de ingeniería, auditorías, ejecutivos y jurídicos necesitan cada uno su enfoque particular. Por eso, OneTrust transforma los datos técnicos que se monitorizan en informes fáciles de entender que no comprometen la integridad de los detalles principales.
Aquí es donde la supervisión de la IA se diferencia del cumplimiento normativo de TI más genérico, porque necesita conectar el rendimiento con el propósito, los riesgos, la explicabilidad y las expectativas a nivel normativo.
Combinación de la detección de riesgos con medidas en tiempo real
La calificación de riesgo dinámica y los controles en vivo trabajan de manera conjunta, pero cumplen roles diferentes. La calificación de riesgo dinámica detecta, mide, explica y prioriza los riesgos, mientras que los controles en vivo bloquean, ofuscan datos, enrutan o restringen el comportamiento cuando hay que tomar medidas.
Por este motivo, la entrega debe ser bastante clara. Cuando una calificación supere un umbral, los equipos deben poder ver qué señal cambió, qué política o umbral se aplicó y qué acción se recomienda o es automática.
OneTrust, empresa visionaria en el Gartner® Magic Quadrant™ de 2026 para plataformas de gobernanza de IA
Conoce por qué Gartner reconoce a OneTrust como «empresa visionaria» en su primer informe Magic Quadrant para plataformas de gobernanza de la IA.
P+F
La calificación dinámica de riesgos de IA es la medición continua de los cambios en los riesgos de la IA a partir de las señales de producción y el contexto de la gobernanza. Esta calificación combina indicadores técnicos como desviaciones, resultados no seguros o infracciones de políticas con el contexto empresarial como el propósito del sistema, el tipo de usuario, la sensibilidad de los datos y el ámbito de la normativa. El objetivo no es únicamente detectar problemas, sino calcular su severidad y entender qué medida hay que aplicar. Todo esto hace que esta calificación sea mucho más útil que una etiqueta de riesgo estática.
Las organizaciones monitorizan los sistemas de IA en producción recopilando señales de calidad, seguridad, deriva, uso y políticas a partir de sus operaciones en vivo. Luego, estas señales deben enriquecerse con el contexto empresarial, compararse con los umbrales pertinentes y vincularse a alertas, paneles de información y rutas de respuesta. Todo esto ayuda a que los equipos puedan identificar qué incidencias son menores y sobre cuáles hay que actuar con rapidez. Asimismo, la supervisión tiene que reflejar el propósito previsto en lugar de solo la disponibilidad técnica.
OneTrust apoya el trabajo de monitorización que está relacionado con el Artículo 15 de la Ley de IA de la UE al ayudar a los equipos a observar el comportamiento en vivo, documentar la calidad del sistema y las señales de riesgo, y conectar estas señales con medidas de gobernanza y control. Asimismo, los equipos pueden conservar un registro de qué ha cambiado, cómo se ha evaluado y qué tipo de seguimiento se ha realizado. Todo esto apoya la supervisión de los sistemas de IA que necesitan revisión continua después de la implementación.
OneTrust AI Governance ayuda a que las organizaciones puedan pasar de las revisiones puntuales a una supervisión continua de la IA. Además, la plataforma captura señales de producción, sigue tendencias y apoya los flujos de trabajo de respuesta, así como conserva registros de la supervisión y el rendimiento a lo largo del tiempo.
La calificación dinámica de riesgos es la capa de supervisión y diagnóstico; es decir, detecta cambios en el comportamiento, explica las causas de la calificación de riesgo y prioriza qué necesita revisarse o requiere medidas. Por otra parte, los controles en vivo son la capa de aplicación que bloquea, redirige, ofusca datos o restringe el comportamiento a partir de las señales relevantes y la lógica de la política. En definitiva, uno mide e interpreta los riesgos y el otro toma las acciones pertinentes.
También podría interesarte
Califica, explica y genera informes sobre riesgos de IA de manera continua a medida que los modelos, agentes y supuestos prácticos cambian en producción.