"Armas de destrucción matemática" de Cathy O'Neil

"Armas de destrucción matemática"
"Armas de destrucción matemática"
Cathy O’Neil, “Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia.”, Madrid, Capitán Swing, 2018, 280 pág.

AUTORA


Si quieres saber algo más de esta escritora haz clic aquí.


SINOPSIS


Vivimos en la edad del algoritmo. Las decisiones que afectan a nuestras vidas no están hechas por humanos, sino por modelos matemáticos. En teoría, esto debería conducir a una mayor equidad: todos son juzgados de acuerdo con las mismas reglas, sin riesgo. Pero en realidad, ocurre exactamente lo contrario. Los modelos que se utilizan en la actualidad son opacos, no regulados e incontestables, incluso cuando están equivocados. Esto deriva en un refuerzo de la discriminación: si un estudiante pobre no puede obtener un préstamo porque un modelo de préstamo lo considera demasiado arriesgado (en virtud de su código postal), quedará excluido del tipo de educación que podría sacarlo de la pobreza, produciéndose una espiral viciosa. Los modelos apuntalan a los afortunados y castigan a los oprimidos: bienvenido al lado oscuro del big data. O’Neil expone los modelos que dan forma a nuestro futuro, como individuos y como sociedad. Estas “armas de destrucción matemática” califican a maestros y estudiantes, ordenan currículos, conceden (o niegan) préstamos, evalúan a los trabajadores, se dirigen a los votantes, fijan la libertad condicional y monitorean nuestra salud.

CONCLUSIÓN


Augusta Ada King (1815-1852), condesa de Lovelace, fue una matemática británica conocida por sus investigaciones sobre la máquina analítica de Charles Babbage. Entre sus “notas” sobre la máquina, Ada Lovelace dejó lo que hoy se considera el primer algoritmo concebido para ser autoprocesado por un ordenador.

Ada es también el nombre del algoritmo que dirigió la campaña de Hillary Clinton. No es que Clinton dudara de si hacer caso al algoritmo o a sus asesores cuando se producía alguna discrepancia entre ellos, sino más bien que, antes de adoptar cualquier estrategia, lo primero que hacía el equipo de la candidatura era consultar al oráculo del big data. Las decisiones sobre dónde, cuándo y cómo invertir cada dólar de la campaña eran tomadas previa consulta a Elan Krieger, que traducía al lenguaje electoral las correlaciones encontradas por el algorimo. Mientras que la falta de datos hace que sea complicado saber cuál era el ratio de acierto del oráculo de Delfos, es bastante más sencillo verificar el fracaso del algoritmo de Ada.

Como Ada Lovelace, Cathy O’Neil es matemática. Y como la de la campaña de Hillary Clinton, la historia que O’Neil relata en Armas de destrucción matemática es la de un desencanto. Como confiesa en la introducción, O’Neil era desde pequeña la típica nerd de las matemáticas a la que gustaba factorizar los números de las matrículas de los coches, sobre todo si eran números primos. Andando el tiempo, esta pasión derivó en un doctorado en Matemáticas en Harvard, primero, y en un trabajo como analista cuantitativa en la empresa D. E. Shaw (un conocido fondo de inversión estadounidense), después.

El desamor se nos narra en el segundo capítulo del libro. O’Neil comenzó a trabajar en D. E. Shaw poco antes de la crisis de 2008. Y fue entonces cuando comprendió “la horrible verdad (p. 48). En aquella época, una de las principales actividades de los bancos de inversión consistía en la compra y titulización diaria de miles de hipotecas. Los títulos con garantía hipotecaria eran, nos dice O’Neil, una forma idónea para el fraude masivo. Como las salchichas, los títulos con garantía hipotecaria son productos formados a partir de pequeños trozos de calidades muy distintas. Obviamente, hay salchichas malas, regulares y buenas, pero a simple vista es muy difícil saber cual es la calidad del producto que nos vamos a encontrar dentro.

Como el mundo descubriría años más tarde del derrumbe de las Bolsas de 2008, las empresas financieras e hipotecarias ganan miles de millones de euros de dólares concediendo hipotecas a gente que no podía pagarlas. Pero siendo esto malo, dice O’Neil, no fue lo peor. Lo peor fue que en todas esas empresas había matemáticos desarrollando modelos que eran empleados como meras cortinas de humo para trasladar una imagen de seriedad y confianza al consumidor. Modelos que, sin embargo, sólo perseguían la rentabilidad a corto plazo de la empresa. Modelos que eran en realidad “armas de destrucción matemática”. Pero, ¿qué es un modelo? ¿Y que convierte a un modelo en un arma de destrucción matemática?

Como explica Dani Rodrik en Economics Rules, una forma sencilla de describir los modelos es diciendo que son como fábulas. Esto es, pequeñas historias habitadas por unos pocos personajes cuyo comportamiento e interacción nos permiten obtener una lección (moraleja) que los científicos sociales suelen emplear porque 1) nos permiten refinar nuestras intuiciones; 2) nos permiten acumular conocimiento; y 3) nos permiten generar conocimiento sobre la base de estándares de conocimientos compartidos. Tal y como mostró Michael Lewis en su más que recomendable Moneyball la estadística puede cambiar la compresión que tenemos de un fenómeno, incluso se trata de algo tan estudiado como el béisbol. El mensaje central de O’Neil es que “moneyball” es la cara más amable de un fenómeno cuyo envés son los modelos que actúan como armas de destrucción matemática. El libro repasa ese lado oscuro del big data en el ámbito de la educación universitaria (tercer capítulo), la publicidad (cuarto), la justicia (quinto), el mercado de trabajo (sexto y séptimo), los mercados financieros (octavo) y la política (décimo).

Como hace a lo largo de todo el libro, O’Neil ilustra el significado de la expresión “armas de destrucción matemática” con el que titula el libro mediante un ejemplo. En 2007, el recién elegido alcalde de Washington estaba decidido a mejorar el rendimiento de las escuelas más disfuncionales de la ciudad. La teoría más extendida por entonces era que los malos resultados de los alumnos del distrito escolar de Washington se debían fundamentalmente al bajo rendimiento de los profesores. De modo que desarrollaron una herramienta para la evaluación del profesorado y, a finales de curso académico 2009-2010, el distrito despidió a todos los docentes cuyas puntuaciones se encontraban en el 2% inferior.

Si quieres saber más sobre este libro, leelo.

Comentarios

Entradas populares de este blog

"Testimonios del último día" de Rubén Chapela

"Latidos de guerra" de Cristian Serrano Galdón