Ethiek

Een niet onderzochte les is het niet waard gegeven te worden.

COLUMN IONICA SMEETS

Zodra je werkt aan wiskunde die allerlei toepassingen heeft, krijg je te maken met ethische dilemma’s

Ionica Smeets22 februari 2019, 15:00

Beeld de Volkskrant

Afgelopen maandag vroeg de Britse wiskundige Philip Bond tijdens het symposium The era of mathematics (Het tijdperk van de wiskunde) aan het publiek om even hun ogen dicht te doen en te denken aan een stuk technologie. Hij durfde te wedden dat daarin iets van wiskunde zat, dat de meeste mensen niet zouden weten. Je smartphone gebruikt filter-technieken om goede selfies te maken en ook een MRI-scanner en je auto zitten vol met verrassende wiskunde.

Ik sprak na Bond en mijn verhaal ging over de rol van wiskunde in de samenleving, over al die toepassingen en de grote kracht van wiskunde om overal op te duiken. En zoals oom Ben in Spider-Manzei: ‘Met grote kracht komt grote verantwoordelijkheid.’

Daar is nog wel wat werk te doen. Cathy O’Neill beschreef een paar jaar terug in Weapons of math destruction hoe wiskundige algoritmen grote schade aanrichten. Ze bepalen op sommige plekken hoeveel verzekeringspremie je betaalt, wat je recidive-risico is en of je je baan mag houden. Veel van die modellen zijn ondoorzichtig en ze gebruiken soms onjuiste aannamen. En de mensen die eraan onderworpen worden, staan machteloos als de computer over hen beslist.

Helaas denken sommige makers van die modellen nog te licht hierover. Bij een vak over ethiek in Leiden mopperde een jongen dat dit voor hem overbodig was: hij werkte namelijk niet met proefdieren of mensen, hij maakte alleen computerprogramma’s. Waarop de studente naast hem vroeg: ‘Dus als ik jou vraag om een algoritme te maken dat zo efficiënt mogelijk alle Joden opspoort, zodat ik hen uit kan roeien, dan is jouw enige vraag in welke programmeertaal dat moet?’ De jongen vond dat nogal een hypothetisch voorbeeld. Ik wilde dat dit waar was.

Zodra je werkt aan wiskunde die allerlei toepassingen heeft, krijg je te maken met ethische dilemma’s. Philip Bond beargumenteerde maandag dat het te makkelijk is om wiskundigen de schuld te geven als er dingen misgaan met hun werk. Een fabrikant van kettingzagen is ook niet verantwoordelijk als iemand zijn been er afzaagt doordat hij de zaag verkeerd gebruikt. Dat is waar, maar je hoopt wel dat zo’n fabrikant een duidelijke gebruiksaanwijzing meegeeft en in actie komt als hij ziet dat tientallen mensen zich verwonden doordat ze de zaag verkeerd gebruiken.

Een lichtend voorbeeld van hoe zoiets kan in de wiskunde – maar dan zonder bloederige afgehakte lichaamsdelen – is het werk van Hans Heesterbeek aan R0, het getal dat voor een infectie aangeeft hoeveel besmettingen gemiddeld ontstaan vanuit één nieuw besmet individu in een groep vatbaren. Heesterbeek liet jaren terug met twee collega’s zien hoe je dat getal uitrekende als je verschillende types in de groep hebt en het artikel waarin ze dat deden is inmiddels 2.784 keer geciteerd. Alleen zag Heesterbeek dat heel veel mensen, vooral biologen, zijn berekening verkeerd gebruikten.

Heesterbeek besefte dat dit misschien meer aan hem lag dan aan die biologen: hij had alles wiskundig zo elegant en algemeen mogelijk uitgewerkt, met oneindig veel mogelijke typen. Terwijl er normaal maar een eindig aantal typen is. En toen deden Heesterbeek en zijn collega’s iets dat heel ongebruikelijk is: ze schreven een nieuw artikel – waarin ze glashelder lieten zien hoe je die R0 in de praktijk uitrekent. En nu snapten mensen het wél. Oom Ben zou trots op hen zijn geweest.

(Bron:
https://www.volkskrant.nl/wetenschap/zodra-je-werkt-aan-wiskunde-die-allerlei-toepassingen-heeft-krijg-je-te-maken-met-ethische-dilemma-s~b000b503/)