La auditoría de IA se refiere a evaluar los sistemas de IA para garantizar que funcionen como se espera sin inclinación o discriminación y están alineados con los estándares éticos y legales. La IA ha experimentado un crecimiento exponencial en la última década. En consecuencia, los riesgos relacionados con la IA se han convertido en una preocupación para las organizaciones. Como dijo Elon Musk:
“La IA es un caso raro en el que creo que debemos ser proactivos en la regulación en lugar de reactivos”.
Las organizaciones deben desarrollar estrategias de gobierno, evaluación de riesgos y management para los empleados que trabajan con IA. La responsabilidad de la IA se vuelve elementary en la toma de decisiones donde hay mucho en juego, como desplegar vigilancia en un área y no en la otra, contratar y rechazar candidatos.
Este artículo presentará una descripción basic de la auditoría de IA, marcos y regulaciones para auditorías de IA y una lista de verificación para auditar aplicaciones de IA.
Factores a considerar
- Cumplimiento: Evaluación de riesgos relacionada con el cumplimiento de un sistema de IA con consideraciones legales, reglamentarias, éticas y sociales.
- Tecnología: evaluación de riesgos relacionada con las capacidades técnicas, incluidos aprendizaje automáticoestándares de seguridad y rendimiento del modelo.
Desafíos para auditar sistemas de IA
- Sesgo: los sistemas de IA pueden amplificar los sesgos en los datos en los que están entrenados y tomar decisiones injustas. Reconociendo este problema, un instituto de investigación de problemas de investigación en la Universidad de Stanford, Human Centered AI (HAI), lanzó un desafío de innovación de $ 71,000 para diseñar mejores auditorías de IA. El objetivo de este desafío period prohibir la discriminación en los sistemas de IA.
- Complejidad: los sistemas de IA, especialmente aquellos que emplean aprendizaje profundo, son complejos y carecen de interpretabilidad.
Regulaciones y marcos existentes para la auditoría de IA
Reglamento y los marcos actúan como la estrella del norte para auditar la IA. A continuación se analizan algunos marcos y regulaciones de auditoría importantes.
Marcos de auditoría
- Marco COBIT (Objetivos de management para la información y tecnología relacionada): es el marco para el gobierno y la gestión de TI de una empresa.
- Marco de auditoría de IA del IIA (Instituto de Auditores Internos): este marco de IA tiene como objetivo evaluar el diseño, el desarrollo y el funcionamiento de los sistemas de IA y su alineación con los objetivos de la organización. Los tres componentes principales del marco de auditoría de IA del IIA son la estrategia, la gobernanza y el issue humano. Tiene siete elementos que son los siguientes:
- Resiliencia cibernética
- Competencias de IA
- Calidad de datos
- Arquitectura e infraestructura de datos
- Medición de desempeño
- Ética
- la caja negra
- Marco COSO ERM: este marco proporciona un marco de referencia para evaluar los riesgos para los sistemas de IA en una organización. Tiene cinco componentes para la auditoría interna:
- Entorno interno: garantizar que el gobierno y la gestión de la organización gestionen los riesgos de IA
- Establecimiento de objetivos: Colaborar con las partes interesadas para hacer una estrategia de riesgo
- Identificación de eventos: identificación de riesgos en los sistemas de IA, como sesgos no deseados, violación de datos
- Evaluación de riesgos: ¿Cuál será el impacto del riesgo?
- Respuesta al riesgo: ¿Cómo responderá la organización a situaciones de riesgo, como una calidad de datos subóptima?
Reglamento
El Reglamento Basic de Protección de Datos (GDPR) es una ley en el reglamento de la UE que impone a las organizaciones la obligación de utilizar datos personales. Tiene siete principios:
- Licitud, Lealtad y Transparencia: El procesamiento de datos personales debe cumplir con la ley
- Limitación de propósito: usar datos solo para un propósito específico
- Minimización de datos: Los datos personales deben ser adecuados y limitados.
- Precisión: los datos deben ser precisos y estar actualizados.
- Limitación de almacenamiento: no almacene datos personales que ya no sean necesarios
- Integridad y Confidencialidad: Los datos personales utilizados para ser tratados de forma segura
- Responsabilidad: Controlador para procesar los datos de manera responsable siguiendo los cumplimientos
Otras regulaciones incluyen CCPA y PIPEDA.
Lista de verificación para la auditoría de IA
Fuentes de datos
Identificar y examinar las fuentes de datos es la consideración principal en la auditoría de los sistemas de IA. Los auditores comprueban la calidad de los datos y si la empresa puede utilizarlos.
Validación cruzada
Una de las listas de verificación de los auditores es asegurarse de que el modelo tenga una validación cruzada adecuada. Los datos de validación no deben usarse para el entrenamiento, y las técnicas de validación deben garantizar la generalización del modelo.
Alojamiento seguro
En algunos casos, los sistemas de IA utilizan datos personales. Es importante evaluar que los servicios de alojamiento o en la nube cumplan con los requisitos de seguridad de la información, como las pautas OWASP (Open Net Software Safety Mission).
IA explicable
IA explicable se refiere a interpretar y comprender las decisiones tomadas por el sistema de IA y los factores que lo afectan. Los auditores verifican si los modelos son lo suficientemente explicables utilizando técnicas como LIME y SHAP.
Salidas del modelo
La equidad es lo primero que los auditores aseguran en los resultados del modelo. Los resultados del modelo deben permanecer consistentes cuando se modifican variables como el género, la raza o la religión. Además, también se evalúa la calidad de las predicciones utilizando el método de puntuación adecuado.
Comentarios sociales
AI Auditing es un proceso continuo. Una vez implementado, los auditores deberían ver el impacto social del sistema de IA. El sistema de IA y la estrategia de riesgo deben modificarse y auditarse en consecuencia en función de los comentarios, el uso, las consecuencias y la influencia, ya sea positiva o negativa.
Empresas que auditan canalizaciones y aplicaciones de IA
Las cinco principales empresas que auditan la IA son las siguientes:
- Deloitte: Deloitte es la firma de servicios profesionales más grande del mundo y brinda servicios relacionados con auditoría, impuestos y asesoría financiera. Deloitte emplea RPA, IA y análisis para ayudar a las organizaciones en la evaluación de riesgos de sus sistemas de IA.
- PwC: PwC es la segunda crimson de servicios profesionales más grande por ingresos. Han desarrollado metodologías de auditoría para ayudar a las organizaciones a garantizar la responsabilidad, la confiabilidad y la transparencia.
- EY: En 2022, EY anunció una inversión de mil millones de dólares en una plataforma tecnológica habilitada para IA para brindar servicios de auditoría de alta calidad. Las empresas impulsadas por la IA están bien informadas para auditar los sistemas de IA.
- KPMG: KPMG es la cuarta mayor empresa proveedora de servicios de contabilidad. KPMG brinda servicios personalizados en gobernanza de IA, evaluación de riesgos y controles.
- Grant Thronton: ayudan a los clientes a gestionar los riesgos relacionados con la implementación de IA y el cumplimiento de la ética y las normas de IA.
Beneficios de auditar sistemas de IA
- Gestión de riesgos: la auditoría previene o mitiga los riesgos asociados con los sistemas de IA.
- Transparencia: la auditoría garantiza que las aplicaciones de IA estén libres de prejuicios y discriminación.
- Cumplimiento: auditar las aplicaciones de IA significa que el sistema sigue los cumplimientos legales y reglamentarios.
Auditoría de IA: lo que depara el futuro
Las organizaciones, las autoridades reguladoras y los auditores deben mantenerse en contacto con los avances de la IA, darse cuenta de sus amenazas potenciales y revisar con frecuencia las regulaciones, los marcos y las estrategias para garantizar un uso justo, sin riesgos y ético.
En 2021, 193 estados miembros de UNESCO adoptó un acuerdo international sobre la ética de la IA. La IA es un ecosistema en continua evolución.
¿Quieres más contenido relacionado con la IA? Visita unir.ai.
