"Armas de destrucción matemática" de Cathy O'Neil
 | |
| "Armas de destrucción matemática" |
AUTORA
Si
quieres saber algo más de esta escritora haz clic aquí.
SINOPSIS
Vivimos
en la edad del algoritmo. Las decisiones que afectan a nuestras vidas
no están hechas por humanos, sino por modelos matemáticos. En
teoría, esto debería conducir a una mayor equidad: todos son
juzgados de acuerdo con las mismas reglas, sin riesgo. Pero en
realidad, ocurre exactamente lo contrario. Los modelos que se
utilizan en la actualidad son opacos, no regulados e incontestables,
incluso cuando están equivocados. Esto deriva en un refuerzo de la
discriminación: si un estudiante pobre no puede obtener un préstamo
porque un modelo de préstamo lo considera demasiado arriesgado (en
virtud de su código postal), quedará excluido del tipo de educación
que podría sacarlo de la pobreza, produciéndose una espiral
viciosa. Los modelos apuntalan a los afortunados y castigan a los
oprimidos: bienvenido al lado oscuro del big data. O’Neil expone
los modelos que dan forma a nuestro futuro, como individuos y como
sociedad. Estas “armas de destrucción matemática” califican a
maestros y estudiantes, ordenan currículos, conceden (o niegan)
préstamos, evalúan a los trabajadores, se dirigen a los votantes,
fijan la libertad condicional y monitorean nuestra salud.
CONCLUSIÓN
Augusta
Ada King (1815-1852), condesa de Lovelace, fue una matemática
británica conocida por sus investigaciones sobre la máquina
analítica de Charles Babbage. Entre sus “notas” sobre la
máquina, Ada Lovelace dejó lo que hoy se considera el primer
algoritmo concebido para ser autoprocesado por un ordenador.
Ada
es también el nombre del algoritmo que dirigió la campaña de
Hillary Clinton. No es que Clinton dudara de si hacer caso al
algoritmo o a sus asesores cuando se producía alguna discrepancia
entre ellos, sino más bien que, antes de adoptar cualquier
estrategia, lo primero que hacía el equipo de la candidatura era
consultar al oráculo del big data. Las decisiones sobre dónde,
cuándo y cómo invertir cada dólar de la campaña eran tomadas
previa consulta a Elan Krieger, que traducía al lenguaje electoral
las correlaciones encontradas por el algorimo. Mientras que la falta
de datos hace que sea complicado saber cuál era el ratio de acierto
del oráculo de Delfos, es bastante más sencillo verificar el
fracaso del algoritmo de Ada.
Como
Ada Lovelace, Cathy O’Neil es matemática. Y como la de la campaña
de Hillary Clinton, la historia que O’Neil relata en Armas de
destrucción matemática es la de un desencanto. Como confiesa en la
introducción, O’Neil era desde pequeña la típica nerd de las
matemáticas a la que gustaba factorizar los números de las
matrículas de los coches, sobre todo si eran números primos.
Andando el tiempo, esta pasión derivó en un doctorado en
Matemáticas en Harvard, primero, y en un trabajo como analista
cuantitativa en la empresa D. E. Shaw (un conocido fondo de inversión
estadounidense), después.
El
desamor se nos narra en el segundo capítulo del libro. O’Neil
comenzó a trabajar en D. E. Shaw poco antes de la crisis de 2008. Y
fue entonces cuando comprendió “la horrible verdad (p. 48). En
aquella época, una de las principales actividades de los bancos de
inversión consistía en la compra y titulización diaria de miles de
hipotecas. Los títulos con garantía hipotecaria eran, nos dice
O’Neil, una forma idónea para el fraude masivo. Como las
salchichas, los títulos con garantía hipotecaria son productos
formados a partir de pequeños trozos de calidades muy distintas.
Obviamente, hay salchichas malas, regulares y buenas, pero a simple
vista es muy difícil saber cual es la calidad del producto que nos
vamos a encontrar dentro.
Como
el mundo descubriría años más tarde del derrumbe de las Bolsas de
2008, las empresas financieras e hipotecarias ganan miles de millones
de euros de dólares concediendo hipotecas a gente que no podía
pagarlas. Pero siendo esto malo, dice O’Neil, no fue lo peor. Lo
peor fue que en todas esas empresas había matemáticos desarrollando
modelos que eran empleados como meras cortinas de humo para trasladar
una imagen de seriedad y confianza al consumidor. Modelos que, sin
embargo, sólo perseguían la rentabilidad a corto plazo de la
empresa. Modelos que eran en realidad “armas de destrucción
matemática”. Pero, ¿qué es un modelo? ¿Y que convierte a un
modelo en un arma de destrucción matemática?
Como
explica Dani Rodrik en Economics Rules, una
forma sencilla de describir los modelos es diciendo que son como
fábulas. Esto es, pequeñas historias habitadas por unos pocos
personajes cuyo comportamiento e interacción nos permiten obtener
una lección (moraleja) que los científicos sociales suelen emplear
porque 1) nos permiten refinar nuestras intuiciones; 2) nos permiten
acumular conocimiento; y 3) nos permiten generar conocimiento sobre
la base de estándares de conocimientos compartidos. Tal y como
mostró Michael Lewis en su más que recomendable Moneyball
la estadística puede cambiar
la compresión que tenemos de un fenómeno, incluso se trata de algo
tan estudiado como el béisbol. El mensaje central de O’Neil es que
“moneyball” es la cara más amable de un fenómeno cuyo envés
son los modelos que actúan como armas de destrucción matemática.
El libro repasa ese lado oscuro del big data en el ámbito de la
educación universitaria (tercer capítulo), la publicidad (cuarto),
la justicia (quinto), el mercado de trabajo (sexto y séptimo), los
mercados financieros (octavo) y la política (décimo).
Como
hace a lo largo de todo el libro, O’Neil ilustra el significado de
la expresión “armas de destrucción matemática” con el que
titula el libro mediante un ejemplo. En 2007, el recién elegido
alcalde de Washington estaba decidido a mejorar el rendimiento de las
escuelas más disfuncionales de la ciudad. La teoría más extendida
por entonces era que los malos resultados de los alumnos del distrito
escolar de Washington se debían fundamentalmente al bajo rendimiento
de los profesores. De modo que desarrollaron una herramienta para la
evaluación del profesorado y, a finales de curso académico
2009-2010, el distrito despidió a todos los docentes cuyas
puntuaciones se encontraban en el 2% inferior.
Si
quieres saber más sobre este libro, leelo.
Comentarios
Publicar un comentario