Algoritmos: ¿el nuevo gran hermano?

A 30 años de la caída del muro de Berlín, la tesis de Francis Fukuyama y el fin de la historia parecen no haber dejado tranquilo ni en lo más mínimo al mundo occidental. El resurgimiento de populismos, la desconfianza creciente en las instituciones combinado con nocivos sentimientos nacionalistas y de rechazo a la globalización (heredada del desastre de “la cortina de hierro”) han sido síntomas de una mirada de sospecha al sistema liberal moderno, que deja una pregunta mucho más compleja: Las promesas que se profetizaron con la caída del Muro ¿se han hecho realidad?

Si hay algo incontestable es que el liberalismo político después de noviembre de 1989 nos demostró su vigencia profética al repotenciar un robusto sistema institucional para garantizar nuestras libertades, junto con la resolución de conflictos internacionales para evitar los totalitarismos que pisoteaban a sus ciudadanos en esa época. Pero la caída del Muro indirectamente prometió algo fundamental a las futuras generaciones en términos de libertad: el acceso total de información y una férrea libertad de expresión, en respuesta a la censura y represión en el bloque soviético.

¿Se concretó la promesa de libertad de expresión? Sí, con bombos y platillos. A lo largo de todo el mundo occidental, la libre expresión -en mayor o menor medida- ha sido protegida constitucionalmente, incluso gozando de cierta posición preferente en el catálogo de derechos fundamentales[1]. Pero la promesa no sólo se materializó normativamente, sino a un nivel mucho más cercano y universal: el internet.

 

El paraíso prometido

La irrupción de la World Wide Web (WWW) en la década del 80’ y su apogeo mundial en los 90’ ayudó a cumplir la promesa de un mundo totalmente conectado: todo aquel con un computador y conexión a internet podría saber qué pasaba a miles y miles de kilómetros de su casa. Más que nunca, la información podía ser distribuida sin límites, sin sesgos, sin criterios económicos; el mundo al alcance de un click: La globalización virtual había llegado para quedarse.

Para el liberalismo, el internet fue recibido con un cálido abrazo. La libertad de expresión, defendida con uñas y dientes por importantes intelectuales como Barendt, Meiklejohn, Stuart Mill, Wendell Holmes, Scanlon o Blasi, nunca se había encontrado en un estado tal de perfección: sin fronteras. El navegar por la red significaba, en primer lugar, evadir la principal barrera y obstáculo hasta ese minuto para la información; la censura estatal.[2] El internet proporcionaba a quien quisiera expresar su opinión o informar, un canal seguro libre de limitaciones y asegurar que su mensaje llegaría a la mayor cantidad de personas. En segundo lugar, la navegación por internet no se tendría que preocupar de las mentiras, puesto que al abrirse la posibilidad que todos puedan levantar la mano y opinar, el “mercado de ideas” haría, por medio de la competencia, que la verdad saliera a la luz.[3] Se había creado entonces, el paraíso ideal de la información; la plaza pública por antonomasia, donde todos podrían converger y debatir, compartir información fidedigna o simplemente, expresarse. Todo sin sesgos. Imparcial.[4]

"no todo lo que leemos, compartimos u opinamos está ajeno a ciertas directrices de las cuales no tenemos el suficiente control"

Pero, sin embargo, el paraíso prometido no nos había contado de “la letra chica”. Un fenómeno que creció lentamente que hoy comenzamos a detectar, pues a medida que el internet empezó a ser parte permanente de nuestra existencia, también recogía la información de nuestra vida, y de toda la vida de quienes frecuentan el ciberespacio (lo que hoy conocemos como big data) Y la información es poder. De este modo, no todo lo que leemos, compartimos u opinamos está ajeno a ciertas directrices de las cuales no tenemos el suficiente control. De hecho, nada lo está. O al revés, todo lo que recibimos del internet ya está planeado para nosotros desde antes que lo recibamos. ¿La razón? Un conjunto de instrucciones prestablecidas para incrementar la eficiencia llamadas algoritmos. Indetectables y con una alta capacidad de adaptación, los algoritmos siempre han existido, pero han ganado relevancia desde que la computación y la informática fueron evolucionando y optimizándose para proveer de mejor servicio y mayor rapidez al usuario en las necesidades y consumos diarios.

¿Pero qué es un algoritmo? Es una super estructura con una serie de instrucciones que permiten obtener un resultado, explica Dominique Cardon,[5] como lo es, por ejemplo, una receta de cocina virtual o la ruta más rápida para llegar a un lugar. Es un programa informático como cualquier otro que conozcamos, pero en el mundo del internet, es quien toma decisiones a propósito de la información que proveemos, en su mayoría independiente de nuestra voluntad, transformándose en uno de los mecanismos más fundamentales de la red. De esta manera es que podemos navegar de forma más cómoda, sin elementos que no son de nuestro interés ni publicidad molesta. Continuamente estamos deseando que lo buscado sea encontrado fácilmente y ojalá nos den más de una opción o alternativa, pero que siempre esta búsqueda sea relacionada con nuestros gustos. De fácil deducción, es que todos los datos que reúne este algoritmo hacen que nuestra interacción con internet sea determinante, desde un simple “me gusta” hasta hacer “shopping”, incluso sin comprar nada. La información ya la dimos, ya fue recolectada y procesada por un algoritmo.

 

La falsa neutralidad del internet

Pero ¿no es deseable el ejercicio de brindarnos el resultado más aproximado (y sus alternativas) a lo que buscamos? La respuesta lógica sería que es absolutamente deseable y la justificación de los algoritmos y su funcionalidad en internet se basa justamente en otorgar ese confort y rapidez. De hecho, los algoritmos permiten tomar decisiones correctas en políticas públicas, en la búsqueda de empleo, las tarjetas de crédito, vehículos que se desplazan autónomamente y hasta detectar ciertos tipos de cáncer. ¿Por qué existiría un problema, entonces? Porque a pesar de toda la funcionalidad que brinda un algoritmo, existe una dinámica distinta con el internet y en especial con las redes sociales que hace importante levantar una alerta, y aquí es donde reside “la letra chica”; lo que no es necesariamente deseable es que existe una indetectable toma de decisión un nivel más abstracto de nuestra elección, por ejemplo, al leer un determinado artículo o comprar un producto en específico: ¿quién o qué nos recomendó ese artículo o ese producto? ¿Por qué no otro? ¿Había más opciones y nunca supimos? La advertencia viene dada cuando no somos amos y señores de la decisión de elección original, pero sí lo somos -o creemos que lo somos- de la decisión final.

Por lo mencionado es que no debemos analizar la “bondad o maldad” del algoritmo siendo algoritmo,[6] sino cuando es creado o programado con una intención distinta o con un propósito particular destinado a generar una determinada forma de actuar. Así, los algoritmos no son un programa necesariamente equitativo que establece reglas generales para todos, ya que es una persona quien programa su ejercicio, tanto en su estructura, funcionamiento como sus resultados.[7] En los últimos años las tecnologías que se desarrollan abandonaron la neutralidad inicial. Hay un debate ético con la inteligencia artificial, y los algoritmos se diseñan para que no sean neutrales”, afirmaba este año en La Vanguardia, José Manuel Alonso, director de Estrategia y Colaboraciones del World Wide Web Foundation[8].

Y este juicio de valor es relevante porque así como el algoritmo sirve para fiscalizar y optimizar instituciones públicas, también es utilizado para reducir la confianza institucional, desprestigiar una persona o influir en una elección presidencial.[9] Con la infinidad de usos que uno le puede dar a un algoritmo, Cardon clasifica a grandes rasgos cuatro familias de algoritmos: aquellos que calculan el índice de popularidad de una página web, la notoriedad y fama de los usuarios en las redes sociales, los algoritmos que clasifican la autoridad de una página web (es decir, su seriedad y prevalencia) y por último, los algoritmos que intentan predecir el futuro de los comportamientos.[10]

Este último tipo de algoritmo -predictor de comportamiento- es probablemente el que más tensiones genera al momento de aproximarnos a este tema. A través de la información que dejamos como migajas en el suelo navegando por la red, el algoritmo predice lo que, según estas migajas, querríamos o buscamos a futuro. ¿Suena imposible? Es el mecanismo que utilizan las principales súper potencias tecnológicas como Amazon, Facebook, Twitter, Spotify, Google o Netflix. Sólo con la búsqueda de un cierto libro en Amazon, inmediatamente su algoritmo codifica la información y recomienda libros similares al que usted sólo buscaba.

Si bien hay ciertos algoritmos bastante inofensivos -y muy prácticos- como el de Spotify, esto se empieza a complejizar con otras plataformas virtuales con algoritmos mucho más sofisticados, como es el caso de las redes sociales (Instagram, Facebook y Twitter) y los medios de comunicación digital con suscripción. ¿Facebook o Twitter le recomiendan cada cierto tiempo a quién seguir? No es casualidad que la mayor cantidad de esas personas sean afines a las opiniones que usted publica en su red social. Es el algoritmo trabajando para usted. Otro ejemplo, y un poco más notorio, es que no todo lo que sus seguidores comentan saldrá en su timeline, sino las publicaciones que por alguna razón a usted le acomodan. ¿Cómo? Basta con un simple like a una publicación para que el algoritmo trabaje identificando palabras claves dentro de ese texto y empiece a mostrar publicaciones con las mismas palabras claves de otros amigos que piensan igual. La comodidad absoluta de sólo ver opiniones que nos gustan a un click de distancia. Pero ¿internet no estaba destinado a ser la gran plaza pública de discusión, libre de sesgos/criterios arbitrarios y no a leer sólo que lo que nos acomoda? Bienvenidos a los denominados “filtros burbuja”.

 

La cárcel involuntaria del pensamiento, los filtros burbuja

Al igual que en una sociedad democrática, el internet replica sus mismas estructuras: tolerancia y pluralismo. De lo contrario no somos más que bandas tribales que no escuchan y sólo se atacan. Pero el afán de ofrecernos el mejor producto conforme a nuestros intereses parece haber cruzado la línea de lo deseable, y ahora está controlando más de lo que necesitamos.

“A pesar de que internet tiene el potencial de descentralizar el conocimiento y el control, en la práctica, está concentrando este control de lo que vemos”. Esta mecánica de obtención de control “es invisible para los usuarios y, como resultados, está fuera de nuestro control”.[11]

"Se trata de transparentar y resguardar el cómo Google o Amazon manejan nuestros datos y con qué fines los utilizan"

Justamente quien sentencia el párrafo anterior es quien también acuñó el concepto “filtro burbuja”: Eli Pariser, un activista que ha puesto la advertencia de los eventuales peligros que los filtros burbuja tendrían en la sociedad, producto de la personalización excesiva de los algoritmos cuando alguien busca en internet. No se trata de un activismo neoludista, ni pretender derrumbar a las grandes empresas tecnológicas. Se trata de transparentar y resguardar el cómo Google o Amazon manejan nuestros datos y con qué fines los utilizan, de manera tal que el internet vuelva a la esencia por lo cual fue creado.[12]

¿Qué sería un filtro burbuja? El filtro burbuja es el resultado de una búsqueda personalizada en donde el algoritmo de un sitio web elige, a través de ciertas predicciones, la información que al usuario le gustaría ver o escuchar, basándose únicamente en la información que el mismo usuario ha proporcionado.[13] Esto es especialmente visible en redes sociales como Facebook o Netflix, que gracias a sus algoritmos gran parte de sus usuarios no son testigos o no están expuestos a opiniones o perspectivas distintas a la propia, puntos de vista conflictivos o que susciten molestia, creando pequeñas realidades particulares ajenas a otras formas de ver el mundo, [14] generando un aislamiento intelectual, cultural y político, alimentando un sesgo confirmatorio que, sin visiones distintas que intenten desarrollar el pensamiento crítico de lo que uno cree, no hace nada más que darnos la razón sistemática y permanentemente, generando aún más barreras con quienes piensan distinto.[15]

De esta manera, algoritmos programados para brindar y ofrecer información de acuerdo “al sesgo” de cada uno, esto es, dependiendo de quién es uno y lo que uno hace, crean reales universos para cada usuario en una red social. Esto genera un problema: somos dueños de lo que ingresa como información (la decisión primaria), y consecutivamente, tampoco somos capaces de detectar qué se eliminó y qué no. Creemos que estamos eligiendo libre y voluntariamente la información que queremos, pero no la estamos eligiendo de un universo ilimitado, sino de un cúmulo de opciones ya predeterminadas por nosotros.

Por otro lado, uno de los peligros de los filtros burbuja es su lamentable contribución a expandir y desarrollar el ámbito de acción de las denominadas fake news (noticias falsas),[16] pues el usuario, además de compartir y leer los contenidos que más nos dan la razón, nuestro sesgo confirmatorio validará como legítimo una noticia con la sola lectura de su titular, no importando si dicha noticia es falsa o verdadera. ya que los usuarios no solamente compartimos aquellos contenidos con los que más concordamos, sino que el sesgo de confirmación logra que validemos titulares afines a nuestra visión del mundo.[17]

No sólo afectan el propio desarrollo del pensamiento crítico, sino que también los filtros burbuja provocan un daño a la sociedad en su conjunto, pues tienen el potencial de crear discusiones públicas ficticias, logrando que la agenda política tome otro rumbo alimentando pasiones y cambiando las percepciones de las personas frente a alguna autoridad o institución. Esta posibilidad de determinar el discurso cívico entre personas que piensan distinto es sin lugar a dudas el más nocivo. Ejemplo de esto es el experimento hecho por el Wall Street Journal,[18] que permitía ver el newsfeed de un ciudadano estadounidense demócrata y el de un republicano es distintos tópicos de contingencia política. Dependiendo si era de un lado político, el listado de noticias constaba de información potenciando al candidato respectivo y denostando, al contrario. Pero no existía algo parecido a una serie de noticias imparciales que aparecieran en dicho newsfeed. No había debate, sólo confirmación de sesgo. La generación de “mentes cerradas” sólo contribuye a incubar ciudadanos que son vulnerables a la propaganda y manipulación.[19]

 

¿Es posible escapar de los algoritmos?

Y aunque todo lo anterior suena a un mal sueño orwelliano con la venida del apocalipsis virtual, la realidad es más benevolente. Aunque los cambios disruptivos, sobre todo en el ámbito de la tecnología nos causen ansiedad y miedo, se necesita adaptación y voluntad de los distintos actores involucrados en esto.[20] Las grandes compañías como Facebook o Google, ya han abogado por una mayor transparencia en el uso de los datos del usuario, aportando con más información respecto al funcionamiento de sus algoritmos como en sus motores de búsqueda.[21] El mismo Eli Pariser aconseja profundizar en la campaña de transparencia y apertura a la información de los buscadores más importantes, pero que no se detenga en crear más espacios, sino que en esos espacios se permita la exposición a opiniones y puntos de vista diferentes, controlando el radio de acción de los algoritmos.[22]

Pero la solución no solamente se debe centrar en quienes pueden manejar los algoritmos, también un papel relevante recae en los mismos usuarios, objetivos principales del filtro burbuja y, por lo tanto, son los llamados a ser la primera solución a los problemas anteriormente descritos. Permitir que los usuarios puedan borrar las cookies (archivos pequeños que envían las páginas web al disco duro del usuario con información sobre sus preferencias e intereses) o empleando navegadores en modo “incógnito” o “privado” para confundir al algoritmo. Pero el más importante, es aceptar el debate de ideas y no omitir o bloquear al que piensa distinto. Sólo así se podrá revitalizar un internet mucho más plural, crítico y atractivo, como lo fue en sus inicios. José Manuel Alonso lo enfatiza así: “en muchos países, hay muchos derechos como el derecho a la libertad de expresión, y otros incluido en la Carta de Derechos Humanos, que sólo se pueden ejercer en línea…de la pura conectividad social, internet tiene un impacto positivo en aspectos económicos y políticos”.[23]

.

Bibliografía

[1] Faúndez Ledesma, Héctor (2004). Los límites a la libertad de expresión. Mexico. Universidad Nacional Autónoma de México, Instituto de investigaciones jurídicas.

[2] Post, Robert (2012). El Estado frente a la Libertad de Expresión. Colección de Ciencias Jurídicas, España. https://www.buscalibre.cl/libro-el-estado-frente-a-la-libertad-de-expresion/9789871716470/p/47933862

[3] Stuart Mill, John (1978). On Liberty. Middlesex, England, Penguin Boosk Ltd. https://www.amazon.es/Sobre-libertad-John-Stuart-Mill/dp/8420663573

[4] Garton Ash, Timothy (2017). Libertad de Palabra. Diez principios para un mundo conectado. Barcelona, Editorial Tusquets.

[5] Cardon, Dominique (2018). Con qué sueñan los algoritmos: nuestras vidas en los tiempos de los Big Data. Madrid. Dado Ediciones. https://www.amazon.es/qu%C3%A9-sue%C3%B1an-los-algoritmos-Variaciones/dp/8494507281

[6] http://www.uchile.cl/noticias/132454/la-presencia-de-los-algoritmos-en-la-vida-cotidiana. Última visita el 22 de septiembre de 2020.

[7] O’neil, Cathy (2018). Armas de destrucción matemática. Capitán Swing Editorial, Madrid.

[8]https://www.lavanguardia.com/tecnologia/20190311/46974857367/internet-tim-berners-lee-30-aniversario.html.Última visita el 22 de septiembre de 2020.

[9] Alandete, David (2019). Fake News: la nueva arma de destrucción masiva: Cómo se utilizan las noticias falsas y los hechos alternativos para desestabilizar la democracia. Deusto Editorial, España.

[10] Cardon, Dominique (2018). Con qué sueñan los algoritmos: nuestras vidas en los tiempos de los Big Data. Madrid. Dado Ediciones.

[11] Pariser, Eli (2017). El filtro burbuja: cómo la red decide lo que leemos y lo que pensamos. Edición Taurus, Barcelona. https://www.amazon.es/El-filtro-burbuja-pensamos-Pensamiento/dp/8430618716/ref=sr_1_1?__mk_es_ES=%C3%85M%C3%85%C5%BD%C3%95%C3%91&keywords=filtro+burbuja&qid=1569941719&s=books&sr=1-1

[12] https://www.lavanguardia.com/tecnologia/20190311/46974857367/internet-tim-berners-lee-30-aniversario.html. Última visita el 22 de septiembre de 2020

[13] Pariser, Eli (2017). El filtro burbuja: cómo la red decide lo que leemos y lo que pensamos. Edición Taurus, Barcelona.

[14] Ibid.

[15] Los filtros de una multitud solitaria, Fundación para el Progreso. Disponible en https://fppchile.org/es/los-filtros-de-una-multitud-solitaria/. Última visita 21 de septiembre de 2020.

[16] Fake News, La mentira en el siglo XXI, Fundación para el Progreso. Disponible en:  https://fppchile.org/es/fake-news-la-mentira-en-el-siglo-xxi/

[17] Los filtros de una multitud solitaria, Fundación para el Progreso. Disponible en: https://fppchile.org/es/los-filtros-de-una-multitud-solitaria/

[18] Para más información: http://graphics.wsj.com/blue-feed-red-feed/

[19] Lukianoff, Greg. Haidt, Jonathan (2019). Malcriando a los jóvenes estadounidenses: Cómo las buenas intenciones y las malas ideas están preparando a una generación para el fracaso. Fundación para el Progreso, Santiago. https://www.amazon.com/Coddling-American-Mind-Intentions-Generation/dp/0735224897

[20] Más allá del futuro del trabajo, Fundación para el Progreso. Disponible en: http://fppchile.org/es/futuro-del-trabajo/

[21] Pauner, Cristina (2019). «Noticias falsas y libertad de expresión e información. El control de los contenidos informativos en la red». Teoría y Realidad Constitucional, núm 41, pp. 297-318.

[22] Pariser, Eli (2017). El filtro burbuja: cómo la red decide lo que leemos y lo que pensamos. Edición Taurus, Barcelona.

[23] https://www.lavanguardia.com/tecnologia/20190311/46974857367/internet-tim-berners-lee-30-aniversario.html. Última visita el 22 de septiembre de 2020

.