Usar big data para reducir el desempleo. Poner la inteligencia artificial al servicio de la detección de fraude. Utilizar la tecnología para reducir la violencia policial o mejorar la gestión de los hospitales. Los proyectos en los que está metida la ONG Bayes Impact no son sencillos. Pero su fundador, Paul Duan confía en el poder de la tecnología para cambiar las cosas. Y en el poder de las sociedades humanas para meter en cintura los aspectos más negativos de la revolución tecnológica.
Parisino de origen chino, Duan estudió matemáticas, economía y ciencias políticas en las universidades de Berkeley, Sciences Po y la Sorbona. En 2014, decidió poner su experiencia como científico de datos al servicio de la sociedad. Su trayectoria y su tecnología social han sido reconocidas por ‘MIT Technology Review’, que lo ha incluido en su lista de jóvenes innovadores europeos destacados.
– Antes de crear Bayes Impact, trabajabas en Silicon Valley, como ingeniero en Eventbrite. ¿Por qué decides dejar la compañía?
Decidí marcharme porque me di cuenta de que en Silicon Valley un montón de gente habla de cambiar el mundo creando el próximo unicornio. Yo trabajaba como científico de datos, con algoritmos de inteligencia artificial, y me di cuenta de que la tecnología podía tener un impacto en millones de personas. El problema es que, en Silicon Valley, la tecnología no se está usando para resolver los problemas de la sociedad. Decidí marcharme y en lugar de fundar una start-up al uso, decidí crear una ONG. Y usar la tecnología en ella.
– Pero usar la tecnología sin ánimo de lucro no es algo que encaje en la filosofía de Silicon Valley. ¿Qué pensaron tus compañeros sobre la iniciativa?
Creo que la idea le gustó a un montón de gente. En 2014, cuando lanzamos Bayes Impact, el concepto de tech for good era bastante novedoso. Así que había gente que pensaba que la idea de Bayes Impact era una locura, pero les gustaba. Una vez que arrancamos, recibimos mucho más apoyo del que pensábamos. Recibimos un montón de mensajes de gente que estaba trabajando en Google o Facebook, pero necesitaban que su vida tuviese más sentido.
El sistema en Silicon Valley no está preparado para ello, pero hay un montón de gente que quiere y tiene las capacidades para contribuir al bienestar de la sociedad. En cierto sentido, Bayes Impact ha contribuido a abrir un camino para estas personas que creen que la tecnología puede mejorar la sociedad.
Cada vez más gente se está dando cuenta de que la tecnología, en sí misma, no puede conseguir todo lo que necesitamos. tenemos que darle un toque humano y social
– O sea que hay muchos ingenieros que están en Silicon Valley porque es donde hay que estar, pero que sienten que les falta algo.
Exacto. Y es una tendencia que se ha incrementado y acelerado en los últimos años. Esto que estoy describiendo fue en 2014, cuando Silicon Valley todavía era visto como un paraíso. Hoy en día, cada vez más gente se está dando cuenta de que la tecnología, en sí misma, no puede conseguir todo lo que necesitamos. Tenemos que darle un toque humano y social, crear un nuevo modelo.
– ¿Qué es lo más valioso que aprendiste en Silicon Valley?
Que la respuesta nunca está en los extremos. Lo más importante es que Silicon Valley entienda que hay un mundo más allá de su burbuja. Son muchos allí los que no entienden las consecuencias de lo que están construyendo. Pero, al mismo tiempo, el sector social tiene que entender que la innovación puede ofrecer una solución para resolver algunos de los problemas del mundo. Mucha gente está pidiendo un cambio, que se reinventen las democracias, y creo que eso va a pasar, en parte, gracias a la tecnología.
– ¿Qué es exactamente Bayes Impact?
Es una ONG cuya misión es usar la tecnología para ayudar a la gente. Queremos crear una nueva generación de servicios públicos.
– ¿Y cómo lo hace?
Creamos plataformas online dirigidas a una necesidad social concreta. En el pasado, hemos trabajado en varios campos: micro-finanzas, hospitales, justicia… Pero ahora estamos centrados en trabajar con el desempleo en Francia. Tenemos una plataforma llamada Bob, un servicio de empleo con inteligencia artificial. La idea es ayudar a la gente a conseguir coaching y ayuda personalizada. Nuestra plataforma lo consigue a través de datos y algoritmos.
En los últimos tres años hemos ayudado a más de 160.000 personas en Francia. El 90% de la gente que la usa asegura que la ayuda ha sido útil. El 75% ha dicho que este es el servicio más personalizado que ha recibido nunca. Nuestro objetivo es llevar esta plataforma a otros países. Estamos contemplando la posibilidad de que uno de ellos sea España.
La plataforma es independiente, pero colaboramos con el gobierno francés para poder llegar a la gente. Queremos crear servicios públicos basados en tecnología que funcionen y queremos llevarlos al mayor número posible de países. Cuanta más gente podamos alcanzar, mayor será el impacto colectivo.
la tecnología puede construirse bajo los principios de un servicio público: neutralidad, tratamiento igualitario, transparencia…
– Uno de los objetivos de Bayes Impact es convertirse en una especie de Naciones Unidas de la tecnología. ¿Qué significa esto?
Queremos crear plataformas digitales que ayuden a la gente y que funcionen en muchos países. Nuestro sueño es que cada vez que se produzca una innovación tecnológica con un fin social esta pueda funcionar en otros países. Teniendo en cuenta los desafíos del mundo actual, todos necesitamos remar en la misma dirección.
– ¿Y cuál es el siguiente paso?
Hoy, nuestro foco es el desempleo. Queremos mejorar la plataforma. Pero queremos empezar otros proyectos y las prioridades son salud y medio ambiente.
– Tal y como has dicho, otro de vuestros objetivos es crear e impulsar servicios públicos liderados por los ciudadanos.
Los ciudadanos equipados con tecnología pueden crear una nueva generación de servicios públicos. El gobierno siempre va a jugar un papel importante en los servicios públicos, pero la innovación llegará del lado de la sociedad civil. De hecho, es algo que ya estamos viendo hoy en día. La gente empieza a darse cuenta del poder real de la tecnología y surgen miedos alrededor de los gigantes tecnológicos. Grandes empresas que incluso compiten con los estados.
Si queremos que la tecnología sirva para solucionar los problemas del mundo tenemos que encontrar un nuevo camino de innovación. Nosotros creemos que la tecnología puede construirse bajo los principios de un servicio público: neutralidad, tratamiento igualitario, transparencia… Wikipedia es un buen ejemplo de ello. Algo creado por la gente que funciona, en muchos sentidos, como un servicio público. Es global, no tiene ánimo de lucro y se ha creado bajo estrictos principios de neutralidad. Necesitamos un marco que nos permita crear nuevas Wikipedia en un lugar de nuevos Cambridge Analytica.
Los riesgos actuales de la IA no están en un robot consciente, sino en los sesgos humanos que incorporan los algoritmos; Sesgos que llegan desde sus creadores o incluso de los propios conjuntos de datos
– ¿Por qué crees que la gente parece que tiene cada vez más miedo de la tecnología?
La gente se está dando cuenta de que la tecnología afecta a la sociedad. Solían pensar que la tecnología solo servía para hacer las cosas más eficientes. Pero también tiene un impacto en nuestro día a día. Da miedo pensar que no tenemos ningún tipo de poder sobre las empresas que crean esta tecnología. Suelen ser grandes compañías que se guían solo por el beneficio económico.
Creo también que no tenemos que pasar de ser optimistas a ser demasiado escépticos. Hace cinco años, creíamos que la tecnología nos iba a salvar a todos. Ahora creemos que la tecnología va a acabar con el mundo. Está bien que estemos aprendiendo a ser más responsables. Tenemos grandes desafíos en el mundo y necesitamos la innovación para resolverlos.
Hay muchas personas en el mundo que quieren usar sus habilidades para el bien común. Tenemos que crear los canales y las plataformas para que pongan sus habilidades al servicio de la sociedad
– Tecnologías como la inteligencia artificial, análisis de big data o las redes sociales están basadas en algoritmos. Algoritmos que están hechos por personas y, como tal, incluyen sesgos y prejuicios. ¿Cómo aseguramos que esta tecnología sea justa y neutral?
La tecnología no es justa. La pregunta importante es: ¿quién está creando la tecnología? Todavía estamos muy lejos de tener inteligencias artificiales como en ‘Terminator’, de máquinas con una conciencia. Los riesgos actuales de la IA no están en un robot consciente, sino en los sesgos humanos que incorporan los algoritmos. Sesgos que llegan desde sus creadores o incluso de los propios conjuntos de datos.
¿Quién crea los algoritmos y por qué? Volviendo al ejemplo de Cambridge Analytica, los algoritmos fueron creados con el objetivo de vender publicidad y maximizar el engagement creando filtros burbuja. Esto demuestra la importancia de quién está detrás de la tecnología y para qué se va a usar. Sucede como en política, se pueden crear leyes buenas y malas. Para intentar que solo haya de las buenas nos inventamos la democracia.
Tenemos que asegurarnos de que los algoritmos son creados bajo una serie de principios comunes orientados al bien común y que sus creadores son responsables de las consecuencias de estos algoritmos.
– Para alguien que no tiene conocimientos de programación, ¿no es demasiado complicado llegar a controlar los entresijos de un algoritmo?
Claro. Es algo que siempre va a estar ahí como un desafío para la sociedad. Podemos confiar en que hay muchas personas en el mundo que quieren usar sus habilidades para el bien común. También en el ámbito de la tecnología. Tenemos que crear los canales y las plataformas para que pongan sus habilidades al servicio de la sociedad.
– Vuestra ONG ha logrado el reconocimiento de la fundación Bill and Melinda Gates, ahora de MIT Technology review… ¿Cómo contribuyen estos premios a vuestra misión?
Nos ayudan porque el mensaje de que la tecnología puede ayudar a la gente y que la gente puede contribuir a crear los servicios públicos del futuro es todavía muy nuevo. Sobre todo, cuando este mensaje tiene que llegar a los gobiernos, que muchas veces no están acostumbrados a trabajar con organizaciones pequeñas como la nuestra. Estos premios consiguen que nuestro mensaje se vuelva mainstream.
En Nobbot | Innovadores que no han pisado Silicon Valley ni falta que hace
Imágenes | Bayes Impact