Resumen: En el ámbito del aprendizaje supervisado justo, asegurar que los modelos no dependan excesivamente de atributos sensibles como el género o la etnia es un desafío clave. Uno de los enfoques más utilizados para evaluar la equidad en los modelos es la Paridad Demográfica (DP), que mide la independencia entre las predicciones y los atributos sensibles. Sin embargo, investigaciones recientes han demostrado que el uso de DP en algoritmos de aprendizaje puede generar sesgos inadvertidos, especialmente cuando los datos de entrenamiento están desequilibrados. Este trabajo analiza el impacto de los métodos de regularización basados en DP en la distribución condicional de las predicciones con respecto a los atributos sensibles. Los resultados indican que los modelos pueden inclinarse hacia la categoría mayoritaria dentro del atributo sensible, afectando la equidad del sistema. Para mitigar este problema, se introduce un método basado en la Optimización Robusta Distribucionalmente por Atributo Sensible (SA-DRO), que mejora la robustez del modelo ante variaciones en la distribución del atributo sensible. A través de experimentos numéricos, se demuestra la efectividad de esta metodología tanto en entornos centralizados como en aprendizaje federado.
Introducción: En el desarrollo de Inteligencia Artificial para la toma de decisiones críticas, es fundamental garantizar que los algoritmos sean justos y no generen discriminación basada en atributos sensibles. De lo contrario, se corre el riesgo de que los modelos tomen decisiones sesgadas. Este problema ha despertado el interés de la comunidad científica, que ha propuesto diversas estrategias para mejorar la equidad en los modelos de aprendizaje automático. En este contexto, Q2BSTUDIO, una empresa especializada en desarrollo y servicios tecnológicos, se enfoca en integrar soluciones avanzadas de aprendizaje automático con un enfoque ético y responsable. A través de la implementación de metodologías como SA-DRO, nuestro equipo busca asegurar que los modelos generen decisiones justas, independientemente de los atributos sensibles presentes en los datos.
Trabajos Relacionados: Dentro del campo del aprendizaje automático justo, se han explorado diversas métricas para evaluar la equidad en los modelos, entre ellas la información mutua, la correlación de Pearson y la estimación de densidad mediante kernel. A nivel metodológico, las estrategias para mitigar sesgos incluyen enfoques de preprocesamiento, posprocesamiento y en-proceso. Mientras que los métodos de preprocesamiento buscan transformar los datos antes del entrenamiento, los de posprocesamiento ajustan las decisiones después de la inferencia. Nuestro trabajo se centra en los enfoques en-proceso, que incorporan regularización durante el entrenamiento para forzar que el modelo aprenda patrones equitativos. A diferencia de otros enfoques de optimización robusta, SA-DRO utiliza la distribución del atributo sensible para controlar el sesgo durante el entrenamiento, logrando modelos más justos.
Conclusión: El análisis realizado demuestra que el aprendizaje supervisado basado en DP puede inducir sesgos no deseados cuando existe un desbalance en los datos de entrenamiento. La metodología SA-DRO propuesta mitiga estos efectos negativos al optimizar la robustez del sistema frente a cambios en la distribución del atributo sensible. Los resultados experimentales en entornos centralizados y de aprendizaje federado validan la efectividad del enfoque. En Q2BSTUDIO, nos comprometemos a desarrollar soluciones tecnológicas justas, asegurando que nuestros algoritmos sean equitativos en su desempeño. Al abordar estos desafíos, buscamos contribuir a un ecosistema de IA más transparente, responsable y accesible para todos.