Las empresas dependen cada vez más de proveedores externos para integrar sistemas de IA en sus operaciones. Descubre cómo puedes adaptar tus procesos de gestión de riesgos de terceros para estar al tanto sobre los riesgos relacionados con la IA.
Marco Barone
Asesor sénior de privacidad de datos CIPP/E, CIPP/US, CIPM, FIP
6 de febrero de 2024
Aunque la IA se está convirtiendo en el pilar central de las operaciones empresariales modernas para muchas organizaciones, muy pocas de estas están creando sus propios sistemas de IA. Con mayor frecuencia, las organizaciones confían en proveedores externos para integrar soluciones de IA en sus operaciones diarias.
Este paso a soluciones de terceros requiere una transformación integral en la forma en que las empresas evalúan y gestionan los riesgos asociados con el uso de la IA dentro de su organización.
En este artículo, profundizaremos en la importancia de adoptar un enfoque integral para con las evaluaciones de proveedores y explicaremos cómo la gobernanza de la IA puede desempeñar un papel clave a la hora de mitigar riesgos y fomentar prácticas responsables en cuanto a la IA.
La mayoría de las empresas cuentan con estrategias de gestión de riesgos de terceros que aplican a sus proveedores; sin embargo, estos flujos de trabajo tradicionales de gestión de riesgos de terceros necesitan evolucionar para seguirle el ritmo a la integración dinámica de la IA.
Hemos visto cómo un enfoque aislado de los aspectos más tradicionales del riesgo de terceros (p. ej., la privacidad, la seguridad, la ética, la continuidad del negocio, la resiliencia, etc.) ya no funciona demasiado bien para las organizaciones. Esto también se aplica a la adopción de la IA por parte de terceros, lo que subraya la necesidad de que las organizaciones redefinan su enfoque con respecto a las evaluaciones de terceros para que sean más integrales con el fin de tener en cuenta el uso de la IA.
Comprender las complejidades técnicas de los sistemas de IA que los proveedores han implementado es la base de una evaluación sólida. El análisis de la tecnología subyacente revela posibles riesgos que están asociados con los componentes de IA en las soluciones de terceros como, por ejemplo:
Este factor técnico de los atributos de los conjuntos de datos y del modelo constituye la primera capa de la evaluación integral de tu sistema de IA de tercero.
Aunque es posible que tu organización no esté desarrollando ni proporcionando el sistema, al implementar un sistema de IA de terceros, seguirás teniendo obligaciones y responsabilidades con respecto a los datos y modelos que utilices, por lo que es importante tener las respuestas a estas preguntas bien documentadas.
Las prácticas de gobernanza de la IA son un componente crítico en el uso responsable de la IA, y no solo de cara a tu propia gobernanza interna de la IA. Cada vez es más importante que también evalúes el marco de gobernanza de la IA de tu proveedor, puesto que te dará más información sobre el cumplimiento normativo y las dimensiones jurídicas y éticas en cuanto a tus prácticas de IA.
Los marcos globales, como la Ley de IA de la UE, están introduciendo cada vez más requisitos específicos sobre las partes responsables, dependiendo de su función, como evaluaciones de conformidad por parte de proveedores de sistemas de IA de alto riesgo.
Aunque las empresas que utilizan IA de terceros no se incluirán en esta categoría de proveedores, las organizaciones aún deben ser conscientes de sus responsabilidades como implementadores de estos sistemas y deben ajustarse a estos marcos con el fin de garantizar el cumplimiento normativo y las prácticas de IA responsable por parte de sus proveedores.
Los beneficios de un enfoque de evaluación integral van más allá del mero cumplimiento normativo. Evitar los obstáculos jurídicos y éticos que se asocian con los sistemas de IA utilizados por terceros es crucial para generar confianza y mantener la transparencia en el ecosistema del proveedor.
Puede parecer abrumador tener que evaluar a los proveedores además de tus propias responsabilidades de gobernanza de la IA, pero este proceso no tiene por qué hacerse desde cero. La puesta en marcha de las evaluaciones de gobernanza de la IA implica medidas prácticas y a menor escala, como la integración de la gobernanza de la IA en los flujos de trabajo existentes de gestión de riesgos de terceros.
Herramientas como las soluciones Gobernanza de la IA y Gestión de riesgos de terceros de OneTrust ayudan a las organizaciones a la hora de simplificar este proceso, además de garantizar una visión más completa de las iniciativas relacionadas con la incorporación de componentes de IA en todo tu negocio.
A medida que el panorama relativo a los riesgos de la IA de terceros continúa evolucionando, las organizaciones deben adoptar un enfoque integral para las evaluaciones de terceros.
La incorporación del riesgo de la IA en estas evaluaciones es un pilar estratégico y una medida proactiva hacia las prácticas de gestión de riesgos de terceros y el uso responsable de la IA.
La creación de un marco integral no solo apoya la mitigación de los riesgos asociados con la adopción de la IA de terceros, sino que también fomenta un ecosistema de transparencia, confianza e innovación.
Las organizaciones deben adaptar sus flujos de trabajo de gestión de riesgos de terceros para navegar las complejidades de la IA, a la vez que se garantiza un futuro donde la IA se aprovecha de forma responsable para el crecimiento sostenible del negocio.
Seminario web
Acompáñanos el próximo 24 de abril a esta sesión y descubre como OneTrust y Deloitte facilitan la adopción de DORA y sus estándares asociados en una sesión práctica donde veremos desde la Gestión de Riesgos y la Gestión de Incidentes, hasta el Registro de Información de la cadena de suministro.
Seminario web
Dominar el arte de la diligencia debida y la gestión de riesgos y cómo armonizarlos para maximizar su eficacia.
Blog
OneTrust anuncia nuevas innovaciones dentro de su plataforma de Trust Intelligence para ayudar a las empresas a utilizar los datos de forma responsable y desarrollar inteligencia de confianza a escala.
Blog
Seminario web
En la tercera sesión de la Academia RGPD hablaremos sobre los riesgos de proveedores (y empleados), crítico en los programas de privacidad.
Testimonio de cliente
La marca deportiva internacional reinventa la gestión de riesgos de terceros con un enfoque colaborativo en toda la organización.