19 Settembre 2022 1236 parole, 5 lettura minima Ultimo aggiornamento : 21 Settembre 2022

Algoritmi: quando l’insoddisfazione porta alla rabbia

Di Pierre-Nicolas Schwab Dottorato di ricerca in marketing, direttore di IntoTheMinds
Gli algoritmi hanno invaso le nostre vite. Nonostante ciò, a volte provocano reazioni negative da parte degli utenti. Un articolo pubblicato a settembre 2022 offre un quadro di analisi molto interessante per chi è interessato a questo fenomeno. In questo […]

Gli algoritmi hanno invaso le nostre vite. Nonostante ciò, a volte provocano reazioni negative da parte degli utenti. Un articolo pubblicato a settembre 2022 offre un quadro di analisi molto interessante per chi è interessato a questo fenomeno. In questo articolo analizzo i 4 motivi che spiegano le reazioni negative contro gli algoritmi e li illustrerò con molti esempi.

Se hai solo 30 secondi

  • Gli algoritmi a volte generano violente reazioni di rabbia da parte degli utenti
  • Ci sono 4 ragioni per cui la frustrazione dell’utente si trasforma in abuso verbale:
    • Mancanza di conoscenza di come funziona l’algoritmo e incomprensione dei risultati
    • errore algoritmico
    • gli interessi dell’utente rispetto a quelli dell’algoritmo
    • mancanza di controllo sull’algoritmo
  • Le soluzioni esistono
    • ripensare la progettazione di algoritmi per massimizzare la soddisfazione degli utenti
    • o rendere gli algoritmi più trasparenti e spiegare come funzionano
    • o dare la possibilità di regolare il funzionamento dell’algoritmo

Il fenomeno della rabbia contro gli algoritmi si materializza in modi diversi. Gli autori della ricerca citano lo scoppio dell’hashtag #RIPtwitter quando la piattaforma ha deciso di utilizzare un algoritmo di raccomandazione anziché visualizzare i messaggi in ordine anticronologico. All’epoca, come si può vedere nel grafico sottostante, gli utenti hanno reagito in modo violento (fonte: Trendsmap). Possiamo anche vedere che l’hashtag #RIPtwitter riappare di tanto in tanto durante i picchi di rabbia contro la piattaforma.

trends twitter #RIPtwitter

Popolarità dell’hashtag #RIPtwitter nel tempo

Il fenomeno si è manifestato anche su Instagram con l’hashtag #RIPinstagram nel 2017 per lo stesso motivo. Il meccanismo delle raccomandazioni algoritmiche sembra quindi cristallizzare sentimenti negativi.

Eppure gli algoritmi di raccomandazione sono alla base del successo di molte aziende (Netflix, Google, Tik Tok) e contribuiscono alla soddisfazione dei clienti. È quindi molto interessante interrogarsi sui motivi che spingono gli utenti ad avere queste reazioni negative.



Spoegazione 1: mancanza di comprensione

La mancanza di comprensione di come funzionano gli algoritmi è un dato di fatto. In una ricerca pubblicata nel 2018, il Pew Research Center ha sottolineato che il 53% degli utenti di Facebook non capiva come funzionava l’algoritmo che alimentava il loro “feed”. Questa percentuale ha raggiunto il 60% tra i 50-64 anni e il 61% tra quelli con più di 65 anni.

Survey on Facebook users showing that the majority doesn't understand the Fcacebook algorithm

Il sondaggio del Pew Research Center mostra che la maggior parte degli utenti di Facebook non capisce come funziona il suo algoritmo.

Capire come funziona un algoritmo di raccomandazione è ancora un argomento complesso riservato a pochi addetti ai lavori. Tuttavia, aumentare la comprensione da parte degli utenti del lavoro di un algoritmo ha dei vantaggi. Come dimostra questo esperimento, capire come funziona l’algoritmo aumenta significativamente il livello di fiducia e soddisfazione dell’utente.


Spiegazione 2: Errori algoritmici e distorsioni

Gli algoritmi a volte creano situazioni di estrema violenza contro gli utenti. Errori algoritmici possono avere gravi conseguenze, come nel caso dell’uomo arrestato in Michigan dopo un’errata identificazione algoritmica. Citiamo anche l’esempio degli inquilini che sono stati respinti dopo una verifica algoritmica del loro profilo o la rovina di cittadini olandesi a seguito dell’uso improprio di un algoritmo da parte del fisco.

Vengono spesso segnalati anche gli algoritmi utilizzati nel settore dell’istruzione. In Francia, l’algoritmo di selezione per la scelta universitaria è stato manipolato, creando disuguaglianze tra i candidati al momento del loro orientamento accademico.

Infine, alcune comunità possono subire una discriminazione algoritmica quando si sentono prese di mira ingiustamente per la propria identità. Questo è successo su Tik Tok, dove i creatori di LGBTQIA+ hanno ritenuto che l’algoritmo rendesse i loro contenuti invisibili. Un audit ha rivelato che queste critiche erano vere. Al contrario, un algoritmo può anche sovraesporre il contenuto e renderlo accessibile a un pubblico troppo ampio. In tal modo, i creatori di contenuti possono essere messi sotto pressione da alcuni utenti.

Come si può notare, i rischi legati all’utilizzo di algoritmi di raccomandazione sono numerosi. L’equilibrio tra valore aggiunto per l’utente e rischi è difficile da trovare.


Spiegazione 3: Gli interessi dell’utente contro gli interessi dell’algoritmo

L’esempio di Twitter

L’algoritmo di Twitter amplificherebbe le convinzioni e polarizzerebbe di fatto i punti di vista. Gli utenti di una piattaforma a volte si sentono “manipolati” dall’algoritmo. Una serie di Tweet di Elon Musk ne dà l’idea. In questi 3 tweet pubblicati il 15 maggio 2022, accusa l’algoritmo di “manipolare [gli utenti] in un modo che [loro] non si rendono conto”. Nel suo secondo tweet cita la bolla di filtraggio teorizzata da Eli Pariser.

tweet by elon musk on manipulation by twitter algorithm

In questo caso, gli interessi dell’algoritmo e degli utenti non sarebbero allineati. Questa tesi è discutibile perché, come abbiamo già visto, le bolle di filtraggio rimangono una possibilità teorica.

L’esempio di Spotify

Spotify è un altro esempio di questa opposizione tra gli interessi dell’utente e l’algoritmo. Ricordiamo innanzitutto che Spotify è una piattaforma che propone contenuti audio agli utenti e remunera i creatori in base al numero di ascolti. Gli utenti vogliono ascoltare i contenuti che preferiscono. Questi ultimi vogliono essere ascoltati (e quindi consigliati) il più possibile. Devono quindi trovare un sottile equilibrio tra la soddisfazione dell’utente e la soddisfazione del creatore.

L’algoritmo di Spotify si trova quindi dinanzi a un dilemma. Dovrebbe consigliare i contenuti con la più alta probabilità di piacere (di solito prodotti dalle major) a scapito dei contenuti più riservati prodotti dalle etichette indipendenti? Sfortunatamente, non esiste una soluzione perfetta a questo problema. Poiché gli utenti sono privilegiati (sono quelli che pagano), i creatori indipendenti potrebbero sentirsi frustrati dall’algoritmo di Spotify.


Spiegazione 4: Perdita di controllo

Il problema del controllo degli algoritmi è una lamentela ricorrente tra gli utenti e una delle principali fonti di insoddisfazione. Alcuni degli esempi che abbiamo fornito sopra possono essere collegati ad esso.

Qualsiasi cambiamento nella “ricetta algoritmica” porta inevitabilmente all’insoddisfazione. Lo abbiamo visto con i tweet di Elon Musk. Più recentemente, Instagram è stato pesantemente criticato per la sua tendenza ad assomigliare a TikTok. Ciò ha incluso una raccomandazione eccessiva di contenuti “reel”. Gli influencer hanno avviato una campagna informale per chiedere che i cambiamenti fossero annullati.

La mancanza di controllo è avvertita anche dalla capacità dell’algoritmo di approfondire i segreti senza poter obiettare. Questo è il caso di TikTok, dove l’accuratezza dell’algoritmo fa sentire gli utenti come se fossero spiati.


Come possiamo ripristinare la fiducia negli algoritmi?

Per loro stessa natura, gli algoritmi rimangono oggetti difficili da comprendere per la persona media. Alcuni di loro sono così complessi da porre problemi di comprensione ai loro progettisti. In queste condizioni, come evitare le reazioni estreme che potrebbero avere alcuni utenti.

Ci sono 3 modi per pensarci:

1/ Mettere le persone al centro della progettazione del sistema di raccomandazione

Il GDPR ha introdotto l’idea di “privacy-by-design”. I progettisti di algoritmi dovrebbero fare la loro soddisfazione in base alla progettazione.
La maggior parte degli algoritmi sono infatti progettati tenendo conto degli interessi dell’azienda. Ciò si traduce in comportamenti che possono danneggiare l’utente (vedi questa riflessione sulla fine degli algoritmi di raccomandazione).

2/ Rendi gli algoritmi più trasparenti

L’accettazione dei risultati algoritmici richiede una migliore comprensione di come vengono prodotti. Gli errori algoritmici saranno meglio accettati se gli utenti sanno perché si verificano. La soddisfazione sarà maggiore.

3/ Aumentare il controllo dell’utente sugli algoritmi

L’ultimo asse di riflessione consiste nel restituire un po’ di controllo agli utenti per personalizzare i propri feed. Ci sono sempre più iniziative, come quella di Linkedin per far sparire dal feed determinati contenuti o autori. Gli utenti cercheranno di manipolare l’algoritmo se non gli dai un po’ di controllo. Ad esempio, c’è una ricerca su come funziona l’algoritmo di Linkedin.



Posted in Ricerca.

Pubblica la tua opinione

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *