Identificación y Gestión de Sesgos en Sistemas de IA

A quién va dirigido

Equipos de ciencia de datos, desarrollo de modelos, calidad y gobierno de IA responsables de identificar y tratar sesgos en los sistemas de inteligencia artificial de la organización.

Objetivo del curso

Desarrollar en los participantes la capacidad de identificar, analizar y tratar sesgos en los sistemas de inteligencia artificial a lo largo de su ciclo de vida, desde el origen de los datos hasta el monitoreo del sistema en operación.

Competencias en formación

• Explicar el origen de los sesgos en los sistemas de inteligencia artificial
• Identificar fuentes de sesgo en los datos de entrenamiento
• Analizar sesgos introducidos durante el diseño y el entrenamiento del modelo
• Aplicar criterios para evaluar la equidad de los resultados de un sistema de IA
• Definir medidas de mitigación de sesgos aplicables al ciclo de vida del sistema
• Establecer mecanismos de monitoreo de sesgos durante la operación del sistema

Temario propuesto

1. Qué es el sesgo en un sistema de IA y por qué ocurre
2. Sesgos originados en los datos de entrenamiento
3. Sesgos introducidos durante el diseño y el desarrollo del modelo
4. Criterios y métricas para evaluar la equidad de los resultados
5. Medidas de mitigación en la etapa de datos y de modelo
6. Monitoreo de sesgos durante la operación del sistema
7. Documentación y reporte de hallazgos de sesgo
8. Taller de análisis de sesgos en un caso de sistema de IA

Método de evaluación

La evaluación consiste en un taller práctico en el que los participantes analizan un conjunto de datos o caso de sistema de IA para identificar posibles fuentes de sesgo y proponer medidas de mitigación.