Big Data en ethiek: eerste geslaagde Meetup op DigitYser

Op 25 juni kreeg ik van mijn vriend Philippe Van Impe de kans om een eerste Meetup te organiseren in de nieuwe tempel van Big Data in Brussel: DigitYser. Wat een succes!
Het onderwerp van deze eerste Meetup was “Big Data en ethiek“, voor datawetenschappers allerhande een belangrijk thema, dat nog niet diepgaand werd behandeld.
Het idee van deze ontmoeting ontstond tijdens mijn keynote op de Data Innovation Summit; een aantal deelnemers  stuurden tweets toen ik dit onderwerp aansneed en enkele minuten later stonden de deelnemers voor een eerste ontmoeting bij elkaar. Het mirakel van de sociale media.

Philippe was zo vriendelijk de organisatie te verzorgen en voor deze marathon schreven zich uiteindelijk 176 abonnees van de site Meetup.com in, een aanzienlijk aantal  rekening houdend met het niet-technische karakter van het thema. Eerdere Meetups waren vooral bedoeld voor de specialisten onder ons. De dag zelf kwamen 75 mensen opdagen, een voldoende aantal want we konden er niet meer ontvangen (misschien moeten we voor een volgende Meetup meer stoelen kopen J).

Na een korte inleiding door Philippe over de inauguratie van DigitYser en enkele woorden van mij om de avond en het debat te openen, hadden we het genoegen te mogen luisteren naar Prof. Michael Ekstrand (Engels) (universiteit van Boise, Idaho), die ik voor het eerst ontmoetten op de RecSys-conferentie in 2016 op het MIT in Boston, MA. Michael, die enkele uren ervoor vanuit de VS geland was, gaf een zeer motiverende voorstelling over de ethiek van algoritmes en onderliggende waarden. Hieronder vindt  u enkele uiterst belangrijke punten die heb onthouden van zijn presentatie (Engels):

• De gebruikerservaring van een systeem kan worden ontworpen om te beantwoorden aan de belangen van de meerderheid, waardoor de negatieve gevolgen voor de minderheidsgroep  de facto verwaarloosd worden. Die laatste groep kan daardoor resultaten van slechtere kwaliteit hebben dan voorheen. Dat leidt tot een probleem van ethiek in het algemeen (respect voor het particuliere belang) en tevredenheid van de gebruiker in het bijzonder.  Ik noteerde ook de verwijzing die Michael maakte naar een wetenschappelijk onderzoek, gepubliceerd door Microsoft Research (Mehrotra et al., 2016, Engels), over de wijze van consumptie (gebruik van zoekrobot vs. opzoeken van informatie) bij groepen van gebruikers (frequente gebruikers vs. nieuwe gebruikers). Uit de resultaten blijkt duidelijk dat er verschillende segmenten naast elkaar bestaan, waarvan sommigen negatief beïnvloed kunnen worden door wijzigingen die worden doorgevoerd om de meerderheid tevreden te stellen.
• De ethiek van een systeem hang af van de finaliteit ervan. Als een systeem streeft naar een maximaal aantal klikken kunnen pagina’s van slechte kwaliteit (clickbait) aanbevolen worden, wat voor een ethisch probleem zorgt (draagt een systeem bij aan het algemeen belang als het pagina’s van armzalige kwaliteit aanbeveelt)?
• Let op met aanbevelingssystemen die slecht werken! Michael gaf het stichtend voorbeeld van een aanbevelingsrobot op Twitter voor restaurants (die gelukkig nog maar in de experimentele fase zat), waarbij Mexicaanse restaurants systematisch als laatste werden geklasseerd. Het aanbevelingssysteem was ingesteld op tekstinhoud waarbij het altijd een associatie maakte met de woorden “Mexicaans” en “illegaal”. Daardoor ontstond er een correlatie tussen “Mexicaans” en “slecht”. En dit soort correlaties kunnen we niet bepaald ethisch noemen.

Meetup Big Data en ethiek: presentatie Michael Ekstrand (Engels) van RTBF (Engels).

Door Pierre-Nicolas Schwab Pierre-Nicolas is de directeur van de marketing agentschap IntoTheMinds. Hij heeft speciaal interesse voor e-commerce, retail, HoReCa en supply-chain projecten. Hij is ook een onderzoeker aan de Vrije Universiteit Brussel en werkt ook als coach voor meerde publieke organisaties. Hij verwelkomt Linkedin uitnodigingen : gelieve gewoon een paar woorden toe te voegen en uit te leggen waarom U wilt connecteren.