In hoeverre laten we algoritmes beslissen?

Wat zijn algoritmes?

Een algoritme is in feite niet meer dan een stapsgewijze methode voor het oplossen van een probleem of het bereiken van een doel. Een serie logische instructies die laat zien hoe je een taak van begin tot eind kunt volbrengen. B.v. je wil van Antwerpen naar Luik, de weg die deze twee steden verbindt, zou je een algoritme kunnen noemen.
Maar meestal verwijzen algoritmes naar iets specifiekers. In grote lijnen zijn het nog steeds lijsten met logische instructies, maar deze algoritmes zijn bijna altijd wiskundige objecten, computerprogramma’s.

Ze nemen een opeenvolging van wiskundige objecten – met behulp van vergelijkingen, aritmetica, algebra, calculus, logica en waarschijnlijkheid – en vertalen ze in computercode. Ze worden gevoed met data uit de echte wereld, krijgen een richtpunt en de taak zich een weg door de berekeningen te banen om hun doel te bereiken. Ze maken informatica tot een echte wetenschap.

Zolang algoritmes positief worden ingezet, is er niets mis mee. En dan denken we b.v. aan algoritmes die mogelijk helpen borstkanker te diagnosticeren, vliegtuigongelukken te voorkomen.

Maar soms leiden ze tot misbruiken. In het boek staan tal van verhalen over de schade die algoritmes kunnen aanrichten.    

Welke impact hebben algoritmes?

Hannah Fry besteedt veel aandacht aan wat algoritmes beloven, onderzoekt hun verzwegen macht en ziet de onbeantwoorde vragen die ze opwerpen onder ogen. Algoritmes die gebruikt worden door de politie om te beslissen wie er gearresteerd moet worden, algoritmes die ons laten kiezen tussen bescherming van de slachtoffers van misdaad en de onschuld van de beschuldigde. Algoritmes die gebruikt worden door rechters om te beslissen over de straffen van veroordeelde criminelen en die ons vragen te bepalen hoe ons rechtssysteem er zou moeten uitzien. Algoritmes die door artsen gebruikt worden om hun eigen diagnoses te herroepen, algoritmes in zelfrijdende auto’s die eisen dat we onze eigen ethiek bepalen, algoritmes die invloed hebben op onze uitdrukking van emoties en algoritmes met de macht om democratieën te ondermijnen.

Waar trek je de grens?

In een interview met ‘De Morgen’ (19 december 2018) vergelijkt Hannah Fry een algoritme met een mes: “Je kan er iemand mee vermoorden en je kan er je boterhammen mee smeren.”
Een voorwerp, of ook een algoritme is op zichzelf nooit goed of slecht. Waar het om gaat, is hoe ze gebruikt worden.
“Het probleem ontstaat pas wanneer bedrijven aan de haal gaan met de informatie die je in feite niet met anderen wil delen en die dan gebruiken om je gedrag te manipuleren. Dat is wat Cambridge Analytica deed, net als veel andere gelijkaardige firma’s trouwens.
In datzelfde interview met De Morgen stelt Fry dat je niet aan het grote publiek kunt overlaten wat kan en wat niet kan. En ook niet aan bedrijven die aan microtargeting doen omdat je niet kan verwachten dat zij een eerlijke keuze zullen maken tussen winst en fatsoen. M.a.w. de overheid moet regels opleggen Net zoals de Amerikaanse Food and Drug Administration (FDA) de interface is tussen gebruikers en bedrijven in gezondheids- en medische aangelegenheden. De FDA bewaakt de intellectuele eigendom van farmabedrijven, maar controleert tegelijkertijd of de voordelen van wat er op de markt komt wel opwegen tegen de nadelen. Volgens Fry is een dergelijke regulator nodig voor het internet.

De boodschap van het boek

We moeten niet kiezen tussen mensen of algoritmes, maar voor een combinatie van beide. Om ons een mening te kunnen vormen over een algoritme, moeten we de relatie tussen mens en computer begrijpen. “Elk algoritme is onlosmakelijk verbonden met de mensen die het maken en gebruiken”, zegt de auteur.
In de kern gaat Fry’s boek over mensen. Over wanneer je een computer meer moet vertrouwen dan je eigen oordeel en wanneer je aan de verleiding moet weerstaan om computers meer macht te geven. “Het gaat over wie we zijn, waar we naartoe gaan, wat belangrijk voor ons is en hoe dat verandert door technologie. We willen de wereld terugbrengen tot een wiskundige beschrijving, maar er zitten altijd lekken in. We moeten er bijven op toezien dat de mens het overwicht behoudt tijdens zijn samenwerking met algoritmes”, concludeert Fry.

*Eind 2018 verscheen het boek in een Nederlandse vertaling bij Uitgeverij De Geus: ‘Algoritmes aan de macht. Hoe blijf je menselijk in een geautomatiseerde wereld? ’

Foto: Hannah Fry at the Data of Tomorrow Conference 2017 (37318160162) - © Wikimedia Commons