Entre Capitana Marvel y Iron Man se podría dar un duelo de lo más interesante, compitiendo en súperpoderes y carisma. Sin embargo, la cosa perdería gracia si un algoritmo apareciese por medio y decidiera que uno de los dos es mejor que el otro simple y llanamente por cuestiones de raza o género.
Superhéroes ¿buenos o malos?
El equipo de investigación queria determinar si los superhéroes con los que se iba a realizar el estudio eran buenos o malos. Para ello, desarrollaron un modelo de clasificación algorítimico que contaba con toda la información disponible sobre estos individuos, superpoderes y atributos físicos incluidos. El detalle más importante de esta primera fase de clasificación es la agregación al sistema de datos sensibles relacionados con la raza o el género de cada uno de los superhéroes.
Tal y como asegura Irene Unceta, científica de datos de la Factoría de Inteligencia Artificial de BBVA, los resultados mostraron que este primer modelo colocaba a los superhéroes masculinos en peor lugar que a los femeninos. Una vez localizados los sesgos de este sistema de machine learning, el equipo de investigadores elaboró un segundo modelo que trataba de corregir los errores de su antecesor.
ADIÓS A LOS SESGOS DISCRIMINATORIOS
Este nuevo sistema elimina las consideradas variables sensibles, en este caso, raza y género, acabando así con las diferencias entre mujeres y hombres. Mientras que el primer sistema erró en un 9% de los casos a la hora de decidir si un superhéroe pertenecía al bando de la justicia o al de los villanos, el segundo logró reducir este margen de equivocación hasta 3 puntos.
Es importante destacar que el segundo sistema es una copia del primero que ha sufrido una serie de modificaciones. Su capacidad para clasificar superhéroes sin dejarse llevar por clichés de raza o género no es infalible pero sí permite poner sobre la mesa la problemática de discriminación que implican en muchas ocasiones los algoritmos.
Los investigadores que han realizado el estudio expresan la posibilidad de que existan datos correlacionados que influyan negativamente en las decisiones. Es decir, aunque se elimine la raza y el sexo de los superhéroes, aún pueden quedar datos sensibles relacionados con la información eliminada que posean, de nuevo, esa potencialidad discriminatoria.
Una cruzada contra la discriminación
El objetivo de esta investigación, englobada en el proyecto de doctorado industrial realizado por el Departamento de Matemáticas e Informática de la Universidad de Barcelona en colaboración con BBVA AI Factory, no es otro que mitigar los sesgos de estos sistemas automáticos que, al fin y al cabo, son un reflejo de la sociedad en la que vivimos.
Este equipo quiso demostrar que es posible clasificar a los superhéroes en buenos y malos teniendo en cuenta, por ejemplo, sus superpoderes, y obviando cierta información innecesaria e irrelevante como su raza o género.