Justiça em modelos de inteligência artificial: um estudo comparativo de técnicas de mitigação e suas implementações no contexto educacional
Abstract
Cada vez mais, modelos de machine learning vem sendo utilizados para
influenciar tomadas de decisão que impactam direta e indiretamente a vida das
pessoas. Especificamente tomadas de decisão relacionadas à educação podem
influenciar profundamente, tanto no momento presente, como no futuro com a
repercussão dos resultados gerados por esses modelos. Nesse contexto, tem
crescido a preocupação quanto ao fairness (justiça) dos modelos, ou seja, se
possuem vieses incompatíveis com a equidade de grupos socialmente
estigmatizados, como por exemplo: gênero, raça, idade, renda e etc. O objetivo
deste trabalho é comparar as principais bibliotecas que implementam métricas e
técnicas de mitigação de fairness, e fornecer dados que ajudem a escolher a
implementação de mitigação mais adequada para casos semelhantes, além de
demonstrar o impacto das variáveis sensíveis sobre a saída dos modelos.
The following license files are associated with this item: