Los algoritmos como religión
By Enrique Dans
La publicación de un informe de Pew Research Center titulado “Code-dependent: pros and cons of the algorithm age“ (pdf), en el que incluye la opinión de 1,300 expertos en tecnología, académicos, directivos y líderes políticos sobre el futuro de los algoritmos y su impacto en la sociedad me da oportunidad de volver a comentar un tema al que vuelvo de manera recurrente: la creciente importancia de los algoritmos y la necesidad de entender su diseño, su funcionamiento y sus implicaciones de todo tipo.
Cada vez más, es un algoritmo en permanente evolución el que decide los resultados que vemos cuando buscamos, las noticias que aparecen ante nuestros ojos cuando nos informamos en unas redes sociales convertidas en medios de comunicación, los productos que nos son ofrecidos en un supermercado virtual, y con quién podemos acostarnos en una página de contactos.
El informe, de 85 páginas y plagado de citas, ofrece puntos de vista verdaderamente interesantes para cualquiera: los algoritmos no solo van a extenderse a cada vez más ámbitos y regular cada vez más acciones que hacemos todos los días, sino que tienen la capacidad de hacer que nos relajemos en cada vez más de esas tareas, que las confiemos cada vez más a unos sistemas cuyos resultados mejoran a medida que los alimentamos con más datos. Algoritmos capaces de adquirir sesgos, de generar divisiones o de incrementar las existentes en función de criterios que deben ser supervisados éticamente, y que incrementan la necesidad de desarrollos transparentes y de desarrollar una cultura y una formación que lleve a una mayor comprensión de su funcionamiento.
Algoritmos originalmente diseñados con las ideas de personas que simplemente pretendían llevar a cabo alguna tarea de manera eficiente y que generase una ventaja competitiva sobre la manera tradicional de llevarla a cabo, crear un motor de búsqueda, una red social, una tienda o un servicio de contactos mejor que los que había, pero que progresivamente pasan a responder al procesamiento masivo de acciones de los usuarios en formas que, cada día más, responden a un mecanismo de caja negra, que afectan a nuestra s acciones de maneras insospechadas. Pásate una temporada haciendo clic en resultados de búsqueda que reflejen una inclinación política determinada, y pueden encontrarte con que el buscador te construye una burbuja a tu medida que condiciona tu visión del mundo y reduce tu exposición a ideas plurales… en una manera similar, pero en absoluto idéntica, a lo que ocurría cuando tomabas la decisión de leer tal periódico o ver tal cadena de televisión.
En el fondo, siempre hemos estado dominados por algoritmos: las religiones, que forman una parte inseparable de la historia de la humanidad y que aún gobiernan porciones significativas de los hábitos y la existencia de millones de personas, no son más que un conjunto de algoritmos diseñados para regular unas conductas determinadas. Ahora, muchas de esas conductas, en lugar de regularse por lo que supuestamente alguien escribió hace muchos años en un libro sagrado, se regulan por los cálculos de una máquina en función de nuestras acciones y las de otros. Cuando hablamos de los algoritmos como los nuevos dioses, no vamos tan desencaminados.
Estamos en un momento interesantísimo, en el que reuniones de expertos dan lugar a declaraciones de principios éticos, a presentación de informes de situación y a alimentar ideas sobre lo que nos puede traer el futuro si proyectamos lo que esté surgiendo hacia el infinito y más allá. Un momento fundacional, con infinidad de actores y barreras de entrada cada vez más bajas, preparadas para que aquellos con ideas interesantes puedan elaborar sobre nuevas herramientas. Pero también un momento que evidencia la necesidad de prepararse, de aprender, de entender las implicaciones de lo que viene. O programas, o serás programado. O intentas entender los algoritmos y sus consecuencias, o renunciarás a una parte importante del libre albedrío, a una parte consustancial de la naturaleza humana.
No, no se trata de aprender a programar. O mejor dicho, no se trata solo de aprender a programar. Se trata de algo que va mucho más allá. De implicaciones éticas fundamentales, de fundamentos y cimientos asentados en las humanidades, en la filosofía, en la experiencia de miles de años de civilización humana y en la perspectiva suficiente para entender hacia donde nos estamos dirigiendo. Sin eso, nos limitaremos a dejarnos llevar.
Puedes leer el artículo completo en: : Los algoritmos como religión
