revista de aeronáutica y astronáutica / enero-febrero 2020 142 internet y nuevas tecnologías predecirla con un grado de acierto aceptable. Naturalmente, siempre que el modelo responda efectivamente a esa relación biunívoca. La rapidez del cálculo que proporcionan los ordenadores ha facilitado el adelanto en las investigaciones sociales. No en vano, una de las primeras aplicaciones de un ordenador fue la confección del censo. Fue el tabulador electromagnético de Herman Hollerith con el que se realizó el censo de los Estados Unidos en 1890. Sesenta años después , el primer ordenador que fue comercializado en ese país, el UNIVAC, se entregó a la oficina del censo. Desde entonces nuestra vida se evalúa de forma mecánica en numerosos procesos y bajo el imperio de diferentes algoritmos matemáticos. Y esto debería alegrarnos, porque parece ser que de esa forma nuestra administración pública, economía, sanidad, educación o relaciones comerciales y laborales son más justas. Y aquí podríamos poner un final feliz si no fuera porque los científicos siempre se hacen preguntas. Cathy O’Neil es una brillante matemática que desarrolló su carrera en la educación y después en el sector privado como científica de datos. Su experiencia y participación en el sector financiero en la época del hundimiento de los bonos basura le hizo dudar de su fe en las matemáticas como herramienta de justicia y bienestar. Adoptó una actitud activa en el movimiento Occupy Wall Street y estudió por qué los algoritmos creados para el bien de la humanidad acaban siendo auténticas pesadillas. Porque los algoritmos no son leyes de la ciencia. Son opiniones expresadas con formas numéricas, se construyen en base a la experiencia y las opiniones de sus creadores o los que serán sus usuarios. Introducen, por tanto, todos sus sesgos de género, de raza o sus prejuicios sociales. Lo terrible es que, así como en la comunidad académica los descubrimientos son validados y comprobados por otros expertos, los algoritmos que deciden sobre puesto de trabajo, promoción profesional, precios de los seguros, capacidad de endeudamiento y otros muchos aspectos importantes de nuestras vidas tienen varias características terribles: son secretos y no suelen contrastarse en búsqueda de «falsos positivos» o errores. Es decir, si tienen un fallo o un sesgo, normalmente no se corrige por injusto que resulte. Los propietarios de estos procesos solo atienden normalmente a un único objetivo: el beneficio económico. La computación no puede por sí sola resolver los problemas de los hombres. Amplifica la señal, pero también el ruido. Donde hay una injusticia, la convierte en sistemática. Si sobreviene el desastre, los enormes intereses en juego alejan el foco de los responsables para evitar pérdidas de dinero, de prestigio, de poder en definitiva. La autora del libro llamó a estos algoritmos perversos «armas de destrucción matemática» en un juego con las siglas, en inglés y castellano, de «armas de destrucción masiva». El libro no trata de matemáticas, es un tratado de cómo la excesiva fe en las matemáticas, el ocultismo y los intereses económicos afectan a nuestra sociedad, a nuestras vidas, nuestro trabajo y nuestra riqueza o pobreza, y desde luego a nuestra democracia. Puedo decir que el libro me pareció tan ameno e interesante que lo devoré en un par de días. He leido alguna crítica negativa del libro porque no ofrece soluciones, salvo apelar a la conciencia de científicos y programadores y a la necesidad de que exijamos como ciudadanos que los políticos hagan leyes que obliguen a la transparencia de estos algoritmos y limiten su poder exigiendo la corrección de sesgos contrarios a nuestros principios morales y sociales. No me parece poco. Si su lectura sirve para concienciar a muchos sobre el problema, puede servir como principio de la solución. n Los enlaces recopilados para escribir estos artículos pueden consultarse en la dirección: https://www.diigo.com/ user/roberto_pla/raa890
RAA_890
To see the actual publication please follow the link above