Transparencia, Explicabilidad y Confiabilidad de Sistemas de IA

A quién va dirigido

Equipos de ciencia de datos, desarrollo de modelos, gobierno de IA y cumplimiento responsables de documentar y comunicar el funcionamiento de los sistemas de inteligencia artificial a las partes interesadas.

Objetivo del curso

Desarrollar en los participantes los criterios para evaluar y mejorar la transparencia, la explicabilidad y la confiabilidad de los sistemas de inteligencia artificial, considerando las necesidades de información de las distintas partes interesadas involucradas en su uso.

Competencias en formación

• Distinguir los conceptos de transparencia, explicabilidad y confiabilidad en IA
• Identificar las necesidades de información de las distintas partes interesadas
• Aplicar técnicas para documentar el funcionamiento de un modelo de IA
• Evaluar el nivel de explicabilidad requerido según el contexto de uso del sistema
• Definir mecanismos de comunicación de resultados y limitaciones del sistema
• Establecer criterios para evaluar la confiabilidad del sistema en operación

Temario propuesto

1. Conceptos de transparencia, explicabilidad y confiabilidad en IA
2. Necesidades de información según el tipo de parte interesada
3. Técnicas de documentación del funcionamiento de modelos de IA
4. Niveles de explicabilidad según el contexto y el riesgo del sistema
5. Comunicación de resultados, límites y condiciones de uso
6. Criterios para evaluar la confiabilidad del sistema en operación
7. Documentación de decisiones y trazabilidad del sistema
8. Taller de elaboración de documentación de transparencia

Método de evaluación

Se evalúa mediante un taller práctico en el que los participantes elaboran documentación de transparencia y explicabilidad para un sistema de IA de ejemplo, ajustada a distintas partes interesadas.