Según informa ‘The Guardian’, el 14 de julio de 2017, el primer ministro ruso, Dmitry Medvedev, y varios miembros de su gabinete se reunieron en un edificio en las afueras de Moscú. Ahí estaba Michal Kosinski, 36 años, psicólogo y profesor en Stanford. El Gobierno ruso quería conocer los últimos resultados de sus investigaciones sobre tecnología, persuasión e inteligencia artificial (IA).
Hace cinco años, Kosinski era un estudiante de posgrado en la Universidad de Cambridge. Entonces mostró cómo la actividad llevada a cabo en Facebook podía revelar rasgos de personalidad. Un descubrimiento que luego fue explotado por la sociedad de análisis de datos Cambridge Analytica.
Semanas después de su viaje a Moscú, Kosinski publicó un polémico documento en el que mostraba cómo los algoritmos de análisis facial podían distinguir entre fotografías de personas homosexuales y heterosexuales. Además, aseguró que esta tecnología podría usarse para detectar el coeficiente de inteligencia e incluso una predisposición a cometer delitos. Kosinski también usó la inteligencia artificial para distinguir entre los rostros de electores republicanos y demócratas.
Determinar la personalidad a partir de los datos
Nacido en 1982 en Varsovia (Polonia), Kosinski es hijo de dos ingenieros de software. Hace 10 años creó un cuestionario de personalidad, myPersonality, y lo compartió en Facebook. Rápidamente se hizo viral. Kosinski utilizó sus habilidades para limpiar, anonimizar y ordenar los datos. Luego los puso a disposición de otros académicos. En 2012, más de seis millones de personas habían realizado el cuestionario. Se llegó a crear el mayor conjunto de datos de este tipo.
Sin embargo, los resultados no fueron protegidos adecuadamente y, durante cuatro años, cualquier persona pudo acceder a los datos. El proyecto acabó cerrándose. Aun así, dio tiempo a servir de base para más de 100 trabajos académicos. El más comentado fue un estudio de 2013, que exploró la relación entre los ‘Me gusta’ de Facebook y los rasgos psicológicos de 58.000 personas.
Algunos de los resultados fueron intuitivos. Los mejores predictores de la introversión, por ejemplo, fueron los ‘Me gusta’ a páginas de videojuegos y Voltaire. Otros hallazgos fueron más desconcertantes. Un alto nivel de inteligencia se asociaba a los ‘Me gusta’ a páginas de tormentas eléctricas y ‘voz de Morgan Freeman’.
La empresa matriz de Cambridge Analytica intentó comprar los datos de myPersonality y sus modelos predictivos. Cuando las negociaciones fracasaron, contaron con otro académico de Cambridge, Aleksandr Kogan. Con su ayuda recopilaron datos sobre hasta 87 millones de personas. Facebook, dice Kosinski, era muy consciente de su investigación. En 2012, empleados de la red social presentaron una patente para sacar características de personalidad de los mensajes de Facebook y las actualizaciones de estado.
¿Un nuevo Lombroso?
En la entrevista con ‘The Guardian’, Kosinski asegura que nunca se propuso probar que la IA podía predecir la sexualidad de una persona. Lo describe como un descubrimiento casual, algo con lo que se «tropezó». La idea le llegó mientras revisaba los perfiles de Facebook para otro proyecto. Entonces comenzó a notar lo que consideraba como patrones en las caras de las personas. «De repente me llamó la atención el hecho de que introvertidos y extrovertidos tenían caras completamente diferentes«.
La fisiognomía, la práctica de determinar el carácter de una persona a partir de su cara, tiene una historia que se remonta a la Grecia antigua. Pero su apogeo llegó en el siglo XIX, por mano del antropólogo italiano Cesare Lombroso. El científico dijo que «casi todos los criminales» tienen «orejas de jarra, pelo grueso, barbas finas, senos nasales pronunciados, barbillas prominentes y pómulos anchos».
Ese análisis ahondaba sus raíces en una escuela de pensamiento profundamente racista que sostenía que los criminales se asemejaban a «salvajes y simios”. Lombroso usaba pinzas y craneografías. Kosinski ha empleado redes neuronales y la inteligencia artificial para encontrar patrones en fotos extraídas de internet.
La inteligencia artificial para determinar la sexualidad
En un artículo publicado el año pasado, Kosinski escribió que un sistema de aprendizaje automático era capaz de distinguir entre fotos de personas homosexuales y heterosexuales. Para el experimento, utilizó 35.326 fotografías sacadas de webs de citas y un software de reconocimiento facial. El algoritmo reconoció la orientación sexual de las personas entre un 81 y 91% de los casos. Los examinadores humanos, entre un 54% y 61%.
Algunas organizaciones LGBTQ de Estados Unidos exigieron que Stanford se distanciara de la que llamaron una «investigación peligrosa y defectuosa”. Sin embargo, Kosinski recibió un aluvión de correos de personas que le pedían ayuda para definir su sexualidad. Se negó. También hubo quien alertó de que la investigación podría usarse para perseguir a personas homosexuales. Por ejemplo, en países como Irán y Arabia Saudí. O Rusia, precisamente.
Otros científicos dijeron que las fotos analizadas en realidad comprendían elementos, como el maquillaje, que podían dar pistas. Kosinski reconoce que su sistema de aprendizaje automático detecta señales no relacionadas. Pero insiste en que el software también distingue entre estructuras faciales. En su artículo, Kosinski asegura que «los homosexuales tienen mandíbulas y barbillas más pequeñas, cejas más delgadas, narices más largas y frentes más grandes…”.
Los peligros
Al tratar la formación de la personalidad, Kosinski se desvía hacia el determinismo biológico de forma inquietante. Si bien no niega la influencia de los factores sociales y ambientales, le resta importancia. De este modo, se acerca mucho a las indefendibles tesis de Lombroso. «No creo en la culpa, porque no creo en el libre albedrío», dice Kosinski. “Los pensamientos y el comportamiento de una persona son completamente biológicos, porque se originan en el ‘ordenador biológico’ que tienes en la cabeza”.
Según sus críticos, los avances en inteligencia artificial y aprendizaje automático han permitido que el racismo científico entre en una nueva era. Kosinski tiene una opinión diferente: «El hecho de que los resultados fueran inválidos e infundados no significa que lo que proponen sea también incorrecto». Y añade: «No veo por qué no podrías predecir la propensión a cometer un crimen de la cara de alguien. Sabemos, por ejemplo, que los niveles de testosterona están relacionados con la propensión a delinquir. La IA nos ofrece muchos más parámetros”. La ciencia no es culpable de sus descubrimientos. Sin embargo, el uso que los gobiernos pueden hacer de estos puede ser aterrador.
En Nobbot | Biometría en el móvil: nuestro sudor pueder servir para algo más que espantar citas