Wat is de overeenkomst tussen ons belastingstelsel, een sollicitatieprocedure en een AI-toepassing? Allemaal zijn het systemen die een rechtvaardige uitkomst nastreven. Het stappenplan dat ze daarvoor gebruiken heet respectievelijk een aangifte, een gesprek of een algoritme. Rechtvaardige (AI-)systemen en algoritmes ontwikkelen vereist dat de volgende onderdelen worden ingevuld:
- Rechtvaardige behandeling
- Rechtvaardige verdeling
- Rechtvaardige procedure
In dit artikel wordt elk onderdeel toegelicht en wordt uitgelegd hoe het kan worden ingevuld binnen een (AI-)systeem.
Rechtvaardige behandeling
Kort gezegd betekent een rechtvaardige behandeling:
- Gelijke gevallen worden gelijk behandeld
- Ongelijke gevallen worden ongelijk behandeld
Het eerste punt is bij veel mensen wel bekend. Voor hetzelfde werk bij dezelfde organisatie hoort iedereen hetzelfde salaris te krijgen. Het tweede punt, dat ongelijke gevallen ook ongelijk behandeld moeten worden, hoor je minder vaak terug. Terwijl het in feite even belangrijk is voor een rechtvaardige behandeling. Zo kan binnen de genoemde organisatie iemand die kinderen heeft ouderschapsverlof opnemen, maar iemand die geen kinderen heeft niet. Als je kijkt naar rechtvaardige (AI-)systemen en algoritmes ontwikkelen is het herkennen van niet-gelijke situaties net zo belangrijk als waken voor gelijke behandeling van gelijke gevallen.
Rechtvaardige verdeling
Stel, de organisatie waar je werkt besluit een deel van de winst uit te keren aan haar werknemers. Een sympathiek gebaar, echter kan er heel veel narigheid van komen. Want wat is nu een rechtvaardige verdeling? Kijk wie er contractueel recht op hebben? Verdeel je naar rato van het aantal uren dat iemand per week werkt? Kijk je naar hoeveel jaar iemand in dienst is? Op basis van salaris (een hoger salaris als indicator voor waarde)? Weeg je mee wie wel wat extra’s kan gebruiken (bijvoorbeeld vanwege een thuissituatie)? Of verdeel je het gelijk over het aantal medewerkers en daarmee klaar?
As je bij een verdeling niet kiest voor gelijke verdeling, heb je de keuze uit drie verdelingsprincipes. Je kunt verdelen naar:
- Verworven rechten (contractuele afspraken)
- Verdienste (uren per week, jaren in dienst, salaris)
- Behoefte en/of draagkracht (thuissituatie)
Wil je rechtvaardige (AI-)systemen en algoritmes ontwikkelen, bepaal dan eerst met de betrokkenen wat een rechtvaardig verdelingsprincipe is. Overigens gelden voor een negatieve verdeling dezelfde keuzes. Bijvoorbeeld bij de verdeling van kosten, overwerk of belastingen kun je het over iedereen verdelen, of één of meerdere verdelingsprincipes toepassen.
Rechtvaardige procedure
Hoe krijg je draagvlak voor het gekozen verdelingsprincipe en/of de gekozen behandeling van mensen? Daarvoor heb je een rechtvaardige procedure nodig. Zo’n procedure draait om twee dingen:
- iedereen die inspraak moet hebben heeft inspraak
- de juiste informatie wordt gebruikt.
Om te zorgen dat iedereen inspraak kan hebben is het belangrijk dat de procedure bij alle betrokkenen en belanghebbenden bekend is. Zorg dat duidelijk is waar, wanneer en op welke manier(en) men kan inspreken / zienswijzen kan delen en hoe het besluitvormingsproces is ingericht. Minstens even belangrijk als het communiceren van de procedure is het volgen ervan. Niet alleen wat betreft inspraak, ook wat betreft de informatie de wordt gebruikt. De procedure beschrijft aan welke voorwaarden informatie moet voldoen om te worden toegelaten in het besluitvormingsproces. Dit kunnen eisen zijn over bronnen, bronvermelding, controle, checks en/of het tijdig delen van informatie met alle betrokkenen en belanghebbenden.
Robuuste, rechtvaardige (AI-)systemen en algoritmes ontwikkelen
Een rechtvaardige procedure mag vanwege het creëren van draagvlak en een rechtvaardige uitkomst vanuit ieders perspectief, niet ontbreken waar het gaat om besluiten over de gewenste uitkomsten van (AI-)systemen en algoritmes. Om diezelfde reden moet ook het algoritme zelf een duidelijk controleerbare procedure hebben om tot besluiten te komen. In het verleden bleek de transparantie van algoritmen problematisch, wat regelmatig leidt tot ongewenste en zelfs strafbare uitkomsten. Robuuste, ethische AI systemen bouwen kan volgens de Europese Unie niet zonder aan deze voorwaarde te voldoen.
Nick Nijhuis maakt organisaties digitaal volwassen, is docent in business innovation, trainer in moreel leiderschap en NIMA-examinator.
Pingback: Robuuste, ethische AI systemen bouwen - Moreel Leider