Algorithmen sind in unser Leben eingedrungen. Trotzdem provozieren sie manchmal negative Reaktionen der Nutzer. Ein im September 2022 veröffentlichter Artikel bietet einen sehr interessanten Analyserahmen für alle, die sich für dieses Phänomen interessieren. In diesem Artikel analysiere ich die 4 Gründe, die die negativen Reaktionen gegen Algorithmen erklären und illustriere sie mit vielen Beispielen.
Wenn Sie nur 30 Sekunden Zeit haben
- Algorithmen erzeugen manchmal heftige Reaktionen der Wut von Nutzern
- Es gibt 4 Gründe, warum Benutzerfrustration zu verbalem Missbrauch wird:
- Mangel an Wissen über die Funktionsweise des Algorithmus und Missverständnis der Ergebnisse
- algorithmischer Fehler
- Interessen des Benutzers im Gegensatz zum Algorithmus
- fehlende Kontrolle über den Algorithmus
- Lösungen existieren
- überdenken Sie das Design von Algorithmen, um die Benutzerzufriedenheit zu maximieren
- die Algorithmen transparenter zu machen und zu erklären, wie sie funktionieren
- die Möglichkeit geben, die Funktion des Algorithmus anzupassen
Das Phänomen der Wut gegen Algorithmen materialisiert sich auf unterschiedliche Weise. Die Autoren der Studie zitieren den Ausbruch des Hashtags # RIPtwitter, als die Plattform beschloss, einen Empfehlungsalgorithmus zu verwenden, anstatt Nachrichten in anthropologischer Reihenfolge anzuzeigen. Damals, wie Sie auf der Grafik unten sehen können, reagierten die Benutzer heftig (Quelle: Trendsmap). Wir können auch sehen, dass das Hashtag #RIPtwitter von Zeit zu Zeit während der Spitzen der Wut gegen die Plattform wieder auftaucht.
Aus dem gleichen Grund manifestierte sich das Phänomen 2017 auch auf Instagram mit dem Hashtag # RIPinstagram. Der Mechanismus algorithmischer Empfehlungen scheint also negative Gefühle zu kristallisieren.
Dennoch sind Empfehlungsalgorithmen die Basis für den Erfolg vieler Unternehmen (Netflix, Google, Tik Tok) und tragen zur Kunden Zufriedenheit bei. Es ist daher sehr interessant, sich über die Gründe zu wundern, die die Benutzer zu diesen negativen Reaktionen veranlassen.
Erklärung 1: Mangel an Wissen
Das Unverständnis darüber, wie Algorithmen funktionieren, ist eine Tatsache. In einer im Jahr 2018 veröffentlichten Studie wies das Pew Research Center darauf hin, dass 53 % der Facebook-Nutzer nicht verstanden, wie der Algorithmus, der ihren „Feed“ füttert, funktioniert. Dieser Prozentsatz erreichte 60 % bei den 50- bis 64-Jährigen und 61 % bei den über 65-Jährigen.
Das Verständnis, wie ein Empfehlungsalgorithmus funktioniert, ist immer noch ein komplexes Thema, das einigen Insidern vorbehalten ist. Das bessere Verständnis der Benutzer für die Arbeit eines Algorithmus hat jedoch Vorteile. Wie dieses Experiment beweist, erhöht das Verständnis, wie der Algorithmus funktioniert, das Vertrauen und die Zufriedenheit des Benutzers erheblich.
Erklärung 2: Algorithmische Fehler und Verzerrungen
Algorithmen erzeugen manchmal Situationen extremer Gewalt gegen Nutzer. Algorithmische Fehler können schwerwiegende Folgen haben, wie im Fall des Mannes, der nach einer fehlerhaften algorithmischen Identifizierung in Michigan verhaftet wurde. Erwähnen wir auch das Beispiel von Mietern, die nach einer algorithmischen Überprüfung ihres Profils oder dem Ruin niederländischer Bürger nach dem Missbrauch eines Algorithmus durch die Steuerbehörden abgelehnt wurden.
Häufig wird auch auf die im Bildungssektor verwendeten Algorithmen hingewiesen. In Frankreich wurde der Auswahlalgorithmus für die Hochschulwahl manipuliert, wodurch Ungleichheiten zwischen den Kandidaten zum Zeitpunkt ihrer akademischen Ausrichtung geschaffen wurden.
Schließlich können einige Gemeinschaften algorithmische Diskriminierung empfinden, wenn sie das Gefühl haben, dass sie unfairerweise auf ihre Identität ausgerichtet sind. Dies geschah auf Tik Tok, wo LGBTQIA+ Schöpfer das Gefühl hatten, dass der Algorithmus ihren Inhalt unsichtbar machte. Eine Prüfung ergab, dass diese Kritik zutrifft. Umgekehrt kann ein Algorithmus auch Inhalte überbelichten und einem zu großen Publikum zugänglich machen. Dadurch können Content-Ersteller von einigen Nutzern unter Druck gesetzt werden.
Wie Sie sehen können, sind die Risiken, die mit der Verwendung von Empfehlungsalgorithmen verbunden sind, zahlreich. Die Balance zwischen Mehrwert für den Nutzer und Risiken ist schwer zu finden.
Erklärung 3: Die Interessen des Nutzers gegen die Interessen des Algorithmus
Das Beispiel von Twitter
Twitter-Algorithmus würde Überzeugungen zu verstärken, und de facto polarisieren Standpunkte. Benutzer einer Plattform fühlen sich manchmal durch den Algorithmus „manipuliert“. Eine Reihe von Tweets von Elon Musk gibt den vollen Maßstab dafür. In diesen drei Tweets, die am 15. Mai 2022 veröffentlicht wurden, wirft er dem Algorithmus vor, „[Benutzer] auf eine Weise zu manipulieren, die [sie] nicht erkennen“. In seinem zweiten Tweet erwähnt er die von Eli Pariser theoretisierte Filterblase.
In diesem Fall wären die Interessen des Algorithmus und der Benutzer nicht aufeinander abgestimmt. Diese These ist fragwürdig, weil, wie wir bereits gesehen haben, Filterblasen eine theoretische Möglichkeit bleiben.
Das Beispiel von Spotify
Spotify ist ein weiteres Beispiel für diesen Gegensatz zwischen den Interessen des Benutzers und dem Algorithmus. Lassen Sie uns zunächst daran erinnern, dass Spotify eine Plattform ist, die Nutzern Audioinhalte anbietet und Kreative basierend auf der Anzahl der Zuhörer vergütet. Benutzer möchten sich die Inhalte anhören, die ihnen gefallen. Letztere wollen so viel wie möglich gehört (und daher empfohlen) werden. Sie müssen daher ein subtiles Gleichgewicht zwischen Nutzerzufriedenheit und Kreativzufriedenheit finden.
Der Spotify-Algorithmus steht daher vor einem Dilemma. Sollte sie Inhalte mit der höchsten Wahrscheinlichkeit empfehlen, dass sie auf Kosten vertraulicherer Inhalte, die von unabhängigen Labels produziert werden, gemocht werden (in der Regel von großen Labels produziert)? Leider gibt es keine perfekte Lösung für dieses Problem. Da Benutzer privilegiert sind (sie sind diejenigen, die Zahlen), können unabhängige Kreative mit Spotify-Algorithmus frustriert sein.
Erklärung 4: Mangelnde Kontrolle
Das Problem der Algorithmus Kontrolle ist eine wiederkehrende Beschwerde unter den Nutzern und eine Hauptquelle der Unzufriedenheit. Einige der oben genannten Beispiele können damit verknüpft werden.
Jede Änderung der „algorithmischen Rezeptur“ führt zwangsläufig zu Unzufriedenheit. Wir haben es mit Elon Musks Tweets gesehen. In jüngerer Zeit wurde Instagram für seine Tendenz, TikTok zu ähneln, heftig kritisiert. Dies beinhaltete eine übermäßige Empfehlung von „Haspel“ Inhalt. Influencer starteten eine informelle Kampagne, um zu fordern, dass die Änderungen rückgängig gemacht werden.
Der Mangel an Kontrolle wird auch durch die Fähigkeit des Algorithmus gefühlt, auf Ihre Geheimnisse zu bohren, ohne dass Sie in der Lage zu widersprechen. Dies ist auf TikTok der Fall, wo die Genauigkeit des Algorithmus den Benutzern das Gefühl gibt, dass sie ausspioniert werden.
Wie können wir das Vertrauen in Algorithmen wiederherstellen?
Algorithmen bleiben naturgemäß Objekte, die für den Durchschnittsmenschen schwer verständlich sind. Einige von ihnen sind so komplex, dass sie Verständnisprobleme für ihre Designer darstellen. Unter diesen Bedingungen, wie die extremen Reaktionen zu vermeiden, die einige Benutzer haben können.
Es gibt drei Möglichkeiten, darüber nachzudenken:
1/Personen in den Mittelpunkt des Empfehlungssystemdesigns stellen
Die DSGVO führte die Idee des „privacy-by-design“ ein. Algorithmus-Designer sollten ihre Zufriedenheit durch Design tun.
Die meisten Algorithmen sind in der Tat auf die Interessen des Unternehmens ausgerichtet. Dies führt zu Verhaltensweisen, die dem Benutzer schaden können (siehe diese Reflexion am Ende der Empfehlungsalgorithmen).
2/ Die Algorithmen transparenter machen
Die Akzeptanz von algorithmischen Ergebnissen erfordert ein besseres Verständnis, wie sie produziert werden. Algorithmische Fehler werden besser akzeptiert, wenn die Benutzer wissen, warum sie auftreten. Die Zufriedenheit wird höher sein.
3/ Erhöhen Sie die Kontrolle des Benutzers über die Algorithmen
Die letzte Achse der Reflexion besteht darin, den Benutzern ein wenig Kontrolle zurückzugeben, um ihre Feeds zu personalisieren. Es gibt immer mehr Initiativen, wie Linkedins Initiative, bestimmte Inhalte oder Autoren aus dem Feed verschwinden zu lassen. Benutzer werden versuchen, den Algorithmus zu manipulieren , wenn Sie ihnen nicht ein wenig Kontrolle geben. So wird beispielsweise erforscht, wie der Linkedin-Algorithmus funktioniert.
Posted in Forschung.
