Los algoritmos de inteligencia artificial y big data fomentan el machismo, el racismo y el clasismo, asegura Catherine D’Ignazio, profesora de Ciencia y Planificación Urbana en el MIT. Para hacer frente a este fenómeno surge el feminismo de datos.
D’Ignazio ha escrito, junto a Lauren Klein, directora de Digital Humanities Lab en la Universidad de Emory, el libro Data Feminism, publicado este año. Las autoras consideran fundamental reconocer los sesgos de género -y también los de racismo, clasismo y discriminación de minorías– de los algoritmos usados masivamente en las aplicaciones de Inteligencia Artificial y en Big Data. Además, subrayan la necesidad de entender estos sesgos a nivel técnico para así introducir medidas que los contrarresten.
El punto de partida del feminismo de datos es algo que generalmente no se reconoce en la ciencia de datos: que el poder no está distribuido equitativamente en el mundo, ya que quienes lo ejercen son, desproporcionadamente, hombres blancos con acceso a la educación, heterosexuales y del norte.
«Por ejemplo, hemos encontrado sistemas de detección de rostros que no reconocen a las mujeres negras, algoritmos que degradan a las mujeres, algoritmos de búsqueda que hacen circular estereotipos negativos sobre las niñas negras, algoritmos de detección de abuso infantil que castigan a los padres de bajos recursos, visualizaciones de datos que refuerzan el binarismo de género. Todo esto y mucho más», señala D’Ignazio.
feminismo de datos frente a fantasías masculinas
En su libro utiliza el término Big Dick Data (dick es pene en argot popular y la expresión se podría traducir como «datos de quién la tiene más grande»). «Es una crítica del machismo oculto en la mayoría de las narrativas en torno al Big Data». Según esta experta, las descripciones de proyectos en este ámbito se caracterizan por fantasías masculinas y totalizadoras de dominación mundial que se llevan a cabo mediante la captura y el análisis de datos.
«Así, los proyectos de Big Dick Data ignoran el contexto de los datos, fetichizan el tamaño de la base de datos e inflan sus capacidades técnicas y científicas, normalmente con ánimo de lucro, poder o ambos», señala.
No cree, en todo caso, D’Ignacio en la neutralidad de los datos. «No, los datos no serán neutrales jamás porque nunca son datos ‘crudos’. Están producidos por seres humanos que vienen de lugares determinados, tienen sus propias identidades, sus historias particulares y que trabajan en instituciones concretas».
«Pero eso no significa que los datos no puedan ser útiles. Solo que tenemos que usarlos con los ojos abiertos. Y hacernos las preguntas adecuadas: ¿Quién se beneficia? ¿A quién se perjudica? ¿Quién hace el trabajo? ¿Quién recibe el crédito?», concluye.