Los algoritmos han invadido nuestras vidas pero, a pesar de ellos, en ocasiones provocan reacciones negativas en los usuarios. Este artÃculo publicado en septiembre de 2022 ofrece un marco de análisis muy interesante para aquellos interesados en dicho fenómeno. En este artÃculo, analizaré las 4 razones que explican las reacciones negativas contra los algoritmos y las ilustraré con muchos ejemplos.
Si solo tienes 30 segundos
- Los algoritmos en ocasiones generan reacciones violentas en los usuarios
- Existen 4 razones por las que la frustración se convierte en abuso verbal:
- Falta de conocimiento sobre cómo funciona el algoritmo y malinterpretación de los resultados
- Errores en el algoritmo
- Los intereses del usuario son opuestos a los del algoritmo
- Falta de control sobre el algoritmo
- Existen soluciones
- Repensar el diseño de los algoritmos para maximizar la satisfacción del usuario
- Hacer el algoritmo más trasparente y explicar cómo funciona
- Dar la posibilidad de ajustar el funcionamiento del algoritmo
El fenómeno de la ira contra los algoritmos se materializa de distintos modos. Los autores del estudio citan el despegue del hashtag #RIPtwitter cuando la plataforma decidió usar un algoritmo de recomendación en lugar de mostrar mensajes de un modo no cronológico. En su momento, como puedes ver en el gráfico que hay a continuación, los usuarios reaccionaron de manera violenta (fuente: Trendsmap). También podemos ver que el hashtag @RIPtwitter reaparece de vez en cuando durante los picos de rabia contra la plataforma.
El fenómeno también se manifestó en Instagram con el hashtag #RIPinstagram en 2017 por la misma razón. El mecanismo de recomendaciones por algoritmo parece cristalizar sentimientos negativos.
Pero los algoritmos de recomendación son la base del éxito de muchas empresas (Netflix, Google, Tik Tok) y contribuyen a la satisfacción del cliente. Por lo tanto, resulta interesante preguntarse por las razones que llevan a los usuarios a experimentar esas reacciones negativas.
Explicación 1: Falta de conocimiento
La falta de comprensión sobre cómo funcionan los algoritmos es un hecho. En un estudio publicado en 2018, el Pew Research Center señaló que el 53% de los usuarios de Facebook no entendÃan cómo el algoritmo que poblaba su «feed» funcionaba. Ese porcentaje llegaba al 60% entre las personas de 50-64 años, y al 61% entre los mayores de 65.
Entender cómo trabaja un algoritmo de recomendación sigue siendo un tema complicado reservado para unos pocos dentro de la industria, pero aumentar la comprensión de los usuarios respecto al funcionamiento de un algoritmo tiene beneficios. Tal y como demuestra este experimento, comprender cómo funciona el algoritmo aumenta de manera significativa el nivel de confianza y satisfacción del usuario.
Explicación 2: Errores y sesgos de los algoritmos
Los algoritmos en ocasiones crean situaciones de violencia extrema contra los usuarios. Los errores en los algoritmos pueden tener consecuencias serias, tal y como le ocurrió al hombre arrestado en Michigan tras una identificación errónea por parte del algoritmo. Mencionemos también el ejemplo de los inquilinos que fueron rechazados tras una verificación por algoritmo de sus perfiles o la ruina de los ciudadanos holandeses tras el mal uso de un algoritmo por las autoridades fiscales.
Los algoritmos utilizados en el sector educativo también suelen señalarse como problemáticas. En Francia. El algoritmo de selección para la elección de universidad se vio manipulado, provocando desigualdades entre candidatos en el momento de recibir su orientación académica.
Por último, algunas comunidades quizás sientan que el algoritmo los discrimina si perciben que se centra de manera injusta en ellos por su identidad. Esto ocurrió en Tik Tok, donde los creadores LGBTQIA+ sintieron que el algoritmo hacÃa su contenido menos visible, y una auditoria reveló que estas crÃticas estaban fundadas. Por el contrario, un algoritmo también puede sobreexponer contenido y hacerlo accesible a un público demasiado amplio, lo cual puede llevar a que los creadores de contenido se vean presionados por algunos usuarios.
Tal y como ves, los riesgos relacionados con el uso de algoritmos de recomendación son múltiples. Es difÃcil establecer el equilibrio entre el valor añadido para el usuario y los peligros.
Explicación 3: Los intereses de los usuarios contra los intereses del algoritmo
El ejemplo de Twitter
El algoritmo de Twitter estaba llamado a amplificar creencias y polarizar los puntos de vista. Los usuarios de la plataforma en ocasiones se sienten «manipulados» por el algoritmo. Una serie de tweets de Elon Musk da una imagen completa de ello; en estos 3 tweets publicados el 15 de mayo de 2022 acusa al algoritmo de «manipular [a los usuarios] de un modo que [los usuarios] no son conscientes». En su segundo tweet, menciona el filtro burbuja teorizado por Eli Pariser.
En este caso, los intereses del algoritmo y de los usuarios no estarÃan alineados. Esta tesis resulta cuestionable ya que, tal y como ya hemos visto, los filtros burbujas sigue siendo una posibilidad teórica.
El ejemplo de Spotify
Spotify es otro ejemplo de esta oposición entre los intereses del usuario y los del algoritmo. Para empezar, recordemos que Spotify es una plataforma que propone contenido de audio a los usuarios y remunera a los creadores en función del número de oyentes. Los usuarios quieren escuchar el contenido que les gusta, mientras que los segundos quieren que se les escuche (y, por lo tanto, que se les recomiende) todo lo posible, asà que deben encontrar un sutil equilibrio entre la satisfacción del usuario y la satisfacción del creador.
El algoritmo de Spotify se ve asà frente a un dilema. ¿DeberÃa recomendar contenido con la mayor probabilidad de ser apreciado (normalmente producido por grandes discográficas) a costa del contenido más confidencial de discográficas independientes? Por desgracia, este problema no tiene una solución perfecta. Puesto que los usuarios son privilegiados (son los que pagan), los creadores independientes pueden sentirse frustrados con el algoritmo de Spotify.
Explicación 4: Falta de control
El problema del control del algoritmo es una queja recurrente entre los usuarios y una de las fuentes principales de insatisfacción. Algunos de los ejemplos que hemos dado pueden vincularse a él.
Cualquier cambio realizado en la «receta del algoritmo» llevará de manera inevitable hacia la insatisfación, algo que ya hemos visto con los tweets de Elon Musk. De manera más reciente, Instagram también ha sido muy criticado por su tendencia a parecerse a TikTok, lo cual incluye una recomendación excesiva de contenido «reel». Los influencers lanzaron campaña informal para exigir que se revirtieran estos cambios.
La falta de control también se percibe por la capacidad del algoritmo de rebuscar entre tus secretos sin que puedas oponerte. Ese es el caso de TikTok, donde la exactitud del algoritmo hace que los usuarios tengan la sensación de que los espÃan.
¿Cómo podemos recuperar la confianza en los algoritmos?
Por su misma naturaleza, los algoritmos siguen siendo objetos difÃciles de comprender para la persona media. Algunos de ellos son tan complejos que entenderlos supone un problema incluso para sus diseñadores. Bajo estas condiciones, ¿cómo evitar las reacciones extremas que pueden experimentar algunos usuarios?
Existen 3 maneras de verlo:
1/ Poner a la gente en el centro del diseño del sistema de recomendaciones
El RGPD presenta la idea de «privacidad por diseño». Los diseñadores de algoritmos deberÃan guiarse por el concepto de satisfacción por diseño.
La mayorÃa de los algoritmos están diseñados con los intereses de la empresa en mente, lo cual da comportamientos que pueden dañar a los usuarios (puedes ver esa reflexión en el final de los algoritmos de recomendación).
2/ Hacer los algoritmos más trasparentes
Aceptar los resultados algorÃtmicos exige una mejor comprensión de cómo se llega a ellos. Los errores de los algoritmos se aceptarán mejor si los usuarios saben por qué ocurren, y la satisfacción será más alta.
3/ Aumentar el control del usuario sobre los algoritmos
El último eje de reflexión consiste en devolverle algo de control a los usuarios para que personalicen sus feeds. Cada vez hay más iniciativas de este tipo, como por ejemplo la iniciativa de LinkedIn de hacer desaparecer cierto contenido o autores del feed. Los usuarios intentarán manipular el algoritmo si no les das algo de control. Por ejemplo, aquà hay un estudio sobre cómo funciona el algoritmo de LinkedIn.
Posted in Investigación.
