Les algorithmes ont pris le pouvoir. Ils sont chargés de prendre de plus en plus de décisions. Des décisions de plus en plus complexes qui affectent tous les pans de nos vies. Pourtant les algorithmes ne sont pas parfaits. Ils font aussi des erreurs. Alors une question se pose : pour une même erreur, pardonnons-nous plus facilement aux algorithmes qu’aux êtres humains ? Une étude de 2021 apporte un éclairage inédit sur la question et livre des enseignements importants sur les caractéristiques idéales des algorithmes et des chatbots.
Contactez-nous pour vos études data
Si vous n’avez que 30 secondes
Une étude publiée en 2021 montre que nous pardonnons plus facilement les fautes commises par des algorithmes que celles commises par des humains.
En appliquant la « theory of mind perception », les auteurs de l’étude montrent en outre que le caractère « humain » de l’algorithme fait varier notre jugement. Plus l’utilisateur perçoit l’algorithme comme « humain », moins il lui pardonne ses erreurs.
Du point de vue du branding, les erreurs algorithmiques causent en général moins de dommages à la marque que celles de nature humaine.
Ces résultats devraient inciter les entreprises à ne pas « humaniser » leurs algorithmes. Cette recommandation est d’ailleurs également émise dans un avis récent rendu en France par le comité d’éthique sur les défis posés par les chatbots.
2 exemples d’erreurs algorithmiques
Le propre des algorithmes est de commettre de nombreuses erreurs. Les algorithmes se basant sur des données historiques pour anticiper l’avenir, tout événement historique manquant provoquera immanquablement une erreur de prédiction.
La grande majorité des erreurs algorithmiques passent inaperçues. Certaines font toutefois les gros titres des journaux à cause des enjeux éthiques ou financiers qu’elles soulèvent.
Les résultats de recherche de Google
L’algorithme de Google a déjà fait parler de lui à de nombreuses reprises à cause de résultats pour le moins … curieux. Il a notamment été accusé de racisme après que Kabir Ali a découvert les images associées à la recherche « three black teenagers » différaient largement de celles affichées pour « Three white teenagers ».
La carte de crédit Apple
Les critères d’attribution de la carte de crédit lancée par Apple en partenariat avec Goldman Sachs ont été accusés de suivre des règles discriminatoires envers les femmes. Bien que les accusations aient plus tard été infirmées par une enquête des autorités, le mal était fait. L’algorithme avait été accusé de sexisme.
Crédits : capture d’écran du site Domino’s Pizza
Pourquoi on pardonne aux algorithmes plus facilement qu’aux humains
Au travers de plus expériences basées sur des scénarios, l’étude montre de manière générale qu’une erreur humaine est jugée comme étant plus grave qu’une erreur commise par un algorithme. Le caractère non-humain de l’algorithme nous fait « passer l’éponge » plus facilement. En termes de branding, une marque souffrira donc moins d’une erreur algorithmique que d’une erreur humaine.
Donner des caractéristiques humaines à une machine s’appelle l’anthropomorphisation. L’étude montre qu’en conférant des caractéristiques humaines à l’algorithme, la frontière s’efface et notre jugement est altéré. Plus l’algorithme a forme humaine, plus la responsabilité que nous lui attribuons en cas d’erreur augmente. Ces caractéristiques peuvent apparaître sous différentes formes :
- un prénom
- un nom
- une voix
- une image
Cet effet augmente encore lorsqu’il s’agit d’un algorithme de machine learning.
Conclusions
Les concepteurs d’algorithmes ont tout intérêt à ne pas donner de caractéristiques humaines à leurs créations. En cas d’erreur causée par l’algorithmique, la réputation de l’entreprise souffrira moins que si l’algorithme possède des caractéristiques humaines.
Publié dans Data et IT.
