Hoe blijf je menselijk in een geautomatiseerde wereld? Zo luidt de prikkelende ondertitel van het boek Algoritmes aan de macht van universitair wiskundedocent Hannah Fry. Want zonder dat we het vaak beseffen bepalen slimme algoritmes op de achtergrond steeds meer wat we horen en zien. Denk aan de films, series en boeken die ons aangeraden worden door Netflix, Spotify en Amazon. Vrij onschuldige toepassingen die over het algemeen weinig kwaad kunnen. Dat wordt anders als we blind varen op algoritmes bij het opleggen van straffen (zoals in het Amerikaanse rechtssysteem), het diagnosticeren en beslissen over wel/niet behandelen (gezondheidszorg) of de keuze die een zelfrijdende auto maakt bij een dreigende botsing met een plots overstekend persoon. Kiest de auto (het algoritme) voor de veiligheid van de autobestuurder of voor de veiligheid van de oversteker?
De auteur laat aan de hand van een groot aantal praktijkvoorbeelden zien dat dit in veel gevallen verkeerd uitpakt. Denk aan het nemen van discriminerende beslissingen (robotrechter), verkeerde of gemiste diagnoses (robotdoctor) of onterecht afgewezen medische behandelingen door een zorgverzekeraar (robotacceptatie). Dat komt maar al te vaak door verkeerde gegevens (ingrediënten) waarmee zelflerende algoritmes (recepten) worden gevoed. Het bekende gezegde ‘garbage in, garbage out’ geldt ook voor algoritmes. Algoritmes bestaan bij de gratie van gegevens, heel veel gegevens. Data is dan ook het nieuwe goud, zoals wel eens wordt gezegd en aan dat nieuwe goud wordt goed verdiend door tal van ‘databedrijven’. De auteur schrijft uitgebreid over de nieuwe industrie die is ontstaan rond de gegevens die iedereen op internet achterlaat. Consumenten betalen al die gratis diensten met de meest persoonlijke en vertrouwelijke gegevens die vervolgens op een slimme manier worden gebruikt om diezelfde consument te manipuleren.
Maar het is niet zo zwart-wit als we vaak denken. Mensen maken door kennisgebrek, vooroordelen en blinde vlekken in de regel meer fouten dan goed geconstrueerde algoritmes en diezelfde algoritmes hebben ook zo hun gebreken en limieten. Ze bedrijven puur statistiek en kunnen niet overweg met ethische regels en hebben geen empathie of moraal. Het algoritmeglas is dus half leeg of half vol, het is maar hoe je het bekijkt. De auteur waarschuwt ook voor het fenomeen ‘algoritme-aversie’: mensen verdragen de fouten van een algoritme minder goed dan die van henzelf, zelfs als hun eigen fouten groter zijn. Tegelijkertijd geeft ze aan dat we algoritmes niet op een voetstuk moeten plaatsen: ‘we moeten ze zorgvuldiger bestuderen en ons afvragen of ze echt in staat zijn te doen wat ze beweren. Dat is de enige manier om te beslissen of ze de macht verdienen die ze gegeven is.’ De auteur voegt de daad bij het woord en beschrijft in het boek op toegankelijke wijze uitgebreid hoe de verschillende soorten algoritmes werken, wat de voor- en nadelen zijn en hoe ze in de praktijk uitpakken, in de rechtspraak, gezondheidszorg, automobielindustrie, misdaadbestrijding en kunst. Zo maken rechters in diverse Amerikaanse staten al jarenlang gebruik van blackbox-algoritmes om de kans op recidive van verdachten te bepalen. Die automatisch bepaalde recidivekans heeft vervolgens grote invloed op de strafmaat die door de rechter wordt opgelegd. Onderzoek laat zien dat hierbij regelmatig vreemde zaken gebeuren en dat er vaak nog wel wat mankeert aan dit soort algoritme-uitkomsten. Dus moeten we volgens de auteur hard aan de slag om systemen te bouwen die we wel begrijpen.
Algoritmes aan de macht is een interessant en vlotgeschreven boek. Het geeft een goed beeld van de wijze waarop algoritmes nu al ons leven (kunnen) bepalen en wat daarvan de kansen en risico’s zijn. De conclusie is helder. Menselijke inbreng zal altijd nodig zijn. Om algoritmes vanuit een breder perspectief te ontwerpen, toe te passen en de werking daarvan te beoordelen. Op dit gebied kan één plus één wel eens drie zijn. Want mensen zijn niet perfect en algoritmes zijn niet perfect, maar samen kunnen ze elkaar versterken. De auteur hoopt dan ook op een toekomst waarin we niet hoeven te vrezen dat algoritmes de macht overnemen. Want, zoals de auteur Algoritmes aan de macht afsluit: ‘Eén ding is zeker: in het tijdperk van het algoritme zijn mensen nog nooit zo belangrijk geweest.’
Over Sjors van Leeuwen
Sjors van Leeuwen (Indora Managementadvies) is adviseur, auteur en spreker op het gebied van klantgericht ondernemen, strategie en marketing. Door zijn ervaring is hij goed thuis in vele strategische vraagstukken en het toenemend belang van de ‘de klant’ als onderscheidende factor. Sjors schreef o.a. Wendbare strategie op één A4, Zorgmarketing in de praktijk en CRM in de praktijk.
