Wat is acceptabel?

Stel we vinden hét medicijn tegen kanker. Maar liefst 95% van de patiënten geneest. De resterende 5% heeft pech en gaat door het medicijn zelfs eerder dood. ‘Snel doen’, zegt de pragmaticus. Maar je dochter zal maar tot die 5% horen. Zou jij het medicijn dan toelaten op de markt?

Het is een bedacht en extreem voorbeeld, maar is de werkelijkheid zoveel anders? In China zullen ze de vraag zeker herkennen nu het Corona-virus hen dwingt de eigen economie plat te leggen uit angst voor een epidemie. Elke dag zijn er beslissingen te nemen waar velen van zullen profiteren, maar anderen ook schade door gaan ondervinden.

Met de snelle opkomst van kunstmatige intelligentie (KI) of artificiële intelligentie (AI) gaan we de komende jaren veel vaker te maken krijgen met dit soort dilemma’s. Algoritmes gaan werk én beslissingen uit onze handen nemen. Robots kennen namelijk geen dilemma’s. Dat is geen fictie, maar al bestaande praktijk. De eindbeslissing en blijft echter mensenwerk. Of is dat ook aan het verschuiven?

Een voorbeeld van dichtbij: het Ministerie van Sociale Zaken moet van ons uitkeringsfraude aanpakken en wil daar een digitaal systeem voor inzetten (SyRI  = Systeem Risico Indicatie). De belastingbetaler heeft geen geld over voor een leger controleurs en dus heeft men een digitale oplossing bedacht. De rechter heeft echter geoordeeld dat deze oplossing in strijd is met het Europees Verdrag voor de Rechten voor de Mens (EVRM), omdat: “Het risicomodel kan in de huidige vorm onbedoelde stigmatiserende en discriminerende effecten hebben”. Oftewel; er kunnen ook ‘onschuldigen’ door geschaad worden. Het model moet dus worden aangepast. Maar kunnen ze ooit garanderen dat het model onfeilbaar is? Ik vrees van niet en daarmee blijft het dilemma bestaan: willen we fraude aanpakken ook als een enkeling daar onterecht door wordt gebrandmerkt?

Dilemma’s hebben altijd bestaan. De geschiedenis staat er bol van. Het gelijk van de gemaakte keuze wordt altijd achteraf bepaald.

Een bevrijdend antwoord is niet te vinden. Het is maar aan wie je het vraagt. Ben jij rechtstreeks betrokken? Hoor jij bij de voordeelgenieters of is er een realistische kans dat jij tot de pechvogels behoort? De meeste mensen van ons schuiven dit soort vragen instinctief van zich af. We laten het daarmee aan anderen over om er over na te denken. Die anderen kunnen we dan de schuld geven als het fout uitpakt. Totdat het ons zèlf aangaat en dan kiezen we natuurlijk voor eigenbelang.

Duivelse dilemma’s horen bij het leven, ook al vormen ze gelukkig geen dagelijkse kost. Het zou goed zijn als we onze kinderen ook dáár op voorbereiden. Maar hoe doe je dat? Heeft iemand suggesties?

Groeten van Hein

Links

1. Een Filipijnse politicus noemt de door van een peuter “bijkomende schade”
2. In China is gezichtsherkenning een middel om veiligheid van burgers te vergroten, zeggen ze.
3. Over de morele dilemma’s van rijdende auto’s: wie wordt er straks overreden: een kind of een bejaarde?