El año del algoritmo
El 2016 ha sido el año de los algoritmos. Un algoritmo de inteligencia artificial, el MogIA, predijo la victoria de Trump –y las de las tres presidenciales anteriores con las correspondientes primarias–. A raíz de la victoria de Trump hemos sabido que el algoritmo de Facebook resulta que favorece la distribución de noticias falsas y que ha tenido que pasar por el taller. Es el mismo algoritmo que censuró la foto premio Pulitzer Napalm girl (la de la niña desnuda escapando del napalm a Vietnam) porque contiene un desnudo infantil.
El año en el que un algoritmo de Microsoft denominado Tay que aprendía de lo que los usuarios decían por Twitter se convirtió en nazi en menos de veinticuatro horas y el año en que el campeón de go perdía contra el Deep Mind de Google.
Otro algoritmo, el del buscador de Google, era acusado de racista porque la búsqueda “tres adolescentes negros” mostraba principalmente retratos policiales mientras que “tres adolescentes blancos” mostraba chicos blancos sonrientes jugando a tenis. Al final resultó que el algoritmo de Google es racista porque el conocimiento que indexa es lo que nosotros le damos a cada interacción, y si las fotos que subimos están sesgadas en un sentido u otro los resultados de las búsquedas también.
También hemos visto en un vídeo que se ha hecho viral estos días cómo el algoritmo de un Tesla con modo de conducción autónomo detectaba con tres segundos de antelación la colisión de dos vehículos que circulaban unos cincuenta metros por delante en la autopista.
Los algoritmos no son neutros. Como demuestra la censura de Facebook, el sesgo de Google o el resultado final de la Tay de Microsoft los algoritmos son fruto de la sociedad que los crea y heredan los sesgos culturales, políticos y sociales.
Algoritmo es, pues, la palabra del año. Algoritmo deriva del apellido del matemático persa Mohamed ibn Musa al Juarismi (780-850 d.C.). En aquella época la notación matemática actual no existía y la resolución de ecuaciones se tenía que escribir paso a paso en prosa, rompiendo un problema complejo en una serie de pasos más sencillos. Un algoritmo es un conjunto finito de instrucciones o pasos simples que sirven para ejecutar una tarea o resolver un problema más complejo.
En el 2016 hemos comprobado que los algoritmos, más allá de condicionar nuestras próximas vacaciones por las fotos de viajes que nos muestra Facebook en el muro, nos condicionan la vida, crean estados de opinión, cambian gobiernos e incluso salvan vidas. Nuestra vida no está sólo condicionada por los algoritmos; nuestra vida depende de los algoritmos. Y el 2017 en eso también se parecerá mucho al 2016.
Poco se lo podía imaginar Mohamed ibn Musa al Juarismi cuando escribía sus algoritmos para el reparto de herencias en Bagdad.
En el 2016 vimos a algoritmos crear opinión, cambiar gobiernos y salvar vidas: el 2017 se parecerá mucho al 2016