Wetgevers hebben moeite de technische en maatschappelijke ontwikkelingen bij te benen. Waardoor organisaties steeds vaker moeten kiezen tussen ‘goed’ en ”goed’. Want daardoor is een moreel dilemma oplossen zo lastig. Het ene goede doen, betekent het andere laten.
Techreuzen als Facebook en Google staan voor morele keuzes als: ‘mag iedereen alles zeggen’ of ‘staan wij voor betrouwbare informatie?’. Over de hele linie moeten kiezen platformen kiezen tussen ‘geld verdienen om lonen en leveranciers te betalen’ en ‘privacy respecteren’ In het vervolg presenteren we een stappenplan om een keuze te maken die je kunt verantwoorden.
Waarom ‘goed’ doen een dilemma is
Een (moreel of ethisch) dilemma is een situatie waarin uit twee of meer even (on)aantrekkelijke alternatieven moet worden gekozen. Daardoor is het een beslissing die niet op basis van logica te nemen is. De afweging is persoonlijk. Voorbeelden van morele en ethische dilemma’s zijn:
- Tegengaan van fraude tegenover beschermen van mensen die te goeder trouw zijn (zoals in de toeslagenaffaire)
- Streven naar opbrengst voor investeerders tegenover beschermen van gebruikers (zoals bij algoritmes op social media)
- Privacy waarborgen tegenover gebruiksgemak en gratis toegang (zoals bij Google)
De eerste reactie op een moreel dilemma is vaak vanuit gevoel. Je bent het met een beslissing eens of oneens. Waarschijnlijk heb je over bovenstaande voorbeelden wel een oordeel. Dat de afweging persoonlijk is, wil echter niet zeggen dat een moreel dilemma kan worden opgelost vanuit persoonlijke oordelen. Hieronder zetten we voor je het pad uit naar een oplossing die je kunt verantwoorden naar jezelf en naar anderen.
Moreel dilemma oplossen gaat niet ‘op gevoel’
Hoewel we snel naar ons gevoel grijpen bij een morele keuze, helpt dat niet bij de oplossing. Om te begrijpen waarom dat zo is, een korte uitleg over hoe je tot oordeelsvorming komt. Daarbij spelen drie morele uitgangspunten een rol:
- Normen. Een norm is een (eigen) regel die gedrag voorschrijft voor goed samenleven
- Waarden. Een waarde is een principe dat we willen realiseren door ons gedrag
- Deugden. Een deugd is een karaktereigenschap, vertaalt in een reeks handelingen, gericht op goed samenleven
Bij een doordacht moreel oordeel spelen alle uitgangspunten een rol. Bij een keuze op gevoel regeert het meest sterke, of ‘eerst beschikbare’ uitgangspunt. En zelfs dat is vaak niet goed doordacht. In de discussie over winst voor investeerders versus beschermen van gebruikers ontstaat al snel het beeld van ‘zakkenvullers’ tegenover onwetende gebruikers. Met als norm: ‘eerlijk zullen we alles delen’.
Terwijl die investeerders bijvoorbeeld pensioenfondsen zijn. Zij hebben de winst hard nodig om de mensen die er jarenlang hard voor gewerkt hebben van een goed pensioen te voorzien. Daarom is het belangrijk een morele vraag neutraal te formuleren zoals verderop wordt uitgelegd. De neutrale formulering zorgt ook dat alle uitgangspunten in ogenschouw worden genomen.
Moreel dilemma oplossen gaat niet op een eiland
Wie de oplossing voor een moreel dilemma zoekt heeft goede kans adviezen te krijgen als ‘doe het goede’, ‘volg je gevoel’ of ‘doe wat goed voelt’. Echter draaien morele dilemma’s om bepalen welk goede je doet, en welk goede je laat. Wat het extra moeilijk maakt is dat beladen termen, vooroordelen en het ‘eerst beschikbare uitgangspunt’ zorgen dat je niet al het ‘goede’ ook ziet. Waardoor je een beslissing neemt die niet maximaal bijdraagt aan je waarden en deugden.
Al het goede zien is al lastig, laat staan op gevoel het goede kiezen
Eigen citaat
Vrijwel niemand werkt alleen op een eiland. Morele dilemma’s oplossen gebeurt vaak binnen een team, organisatie of beroepsgroep. Die komen tot een gezamenlijke moraal ten aanzien van het dilemma door uitwisselen van morele argumenten. Die argumenten komen voort uit de genoemde uitgangspunten. Het is lastig deel te nemen aan een moreel gesprek of morele dialoog op basis van je gevoel. Laat staan een moreel beraad beginnen en afronden, Een ‘gevoel’ is lastig uit te leggen en laat zich lastig omzetten in argumenten.
Morele vraag bepalen (stap 1)
Een morele vraag heeft als doel goede argumenten te vinden voor het antwoord of reactie op een moreel dilemma. Een morele vraag brengt een proces op gang om het oordeel beter te onderbouwen. Het gaat niet om uit te vinden wat ‘waar’ is, maar om wat ‘juist’ is. Iedere morele vraag bevat daarom:
- een neutrale formulering van de situatie
- wie bij het dilemma zijn betrokken zijn
- waarom het morele ‘pijn’ veroorzaakt
De vraag ‘gebruiken technici van Apple Siri om interesses van gebruikers te achterhalen’ onderzoekt of iets ‘waar’ is. Het is daarom geen goede morele vraag. Ook de vraag ‘Mogen marketeers van Apple Siri misbruiken om mensen af te luisteren’ is geen goede morele vraag. De woorden ‘misbruiken’ en ‘afluisteren geven al de suggestie dat het verkeerd is, en daarom is de vraag niet neutraal.
Een goede morele vraag is: ‘mogen marketeers van Apple Siri gebruiken om interesses te achterhalen als gebruikers daardoor worden ingedeeld in bepaalde segmenten zonder dat ze het zelf weten?’ Deze laatste vraag is (1) neutraal geformuleerd, laat zien wat de situatie is, (2) geeft aan wie bij het dilemma betrokken zijn (Apple marketeers en Apple gebruikers) en (3) benoemd wat de morele pijn is (namelijk dat gebruikers worden ingedeeld in segmenten zonder dat ze dat weten of daar wat aan kunnen doen).
Morele Analyse (stap 2)
De volgende stap is alle argumenten voor een oordeel op een rij zetten. De morele vraag legt daarvoor de basis. De morele uitgangspunten bieden daarvoor structuur. In een morele analyse zet je voor elk van de betrokkenen de relevante normen, waarden en deugden op een rij. Daarom is het belangrijk in de morele vraag duidelijk weer te geven wie er betrokken zijn. Door alle argumenten naast elkaar te zetten ontstaat overzicht. Achter het sterkste argument komen er meer tevoorschijn. En door je te verdiepen in de argumenten van andere betrokkenen zie je meer ‘goede’ kanten.
Stel bijvoorbeeld dat we de morele vraag ‘mogen marketeers van Apple Siri gebruiken om interesses te achterhalen als gebruikers daardoor worden ingedeeld in bepaalde segmenten zonder dat ze het zelf weten?’ verder willen onderzoeken. Dan wordt duidelijk dat er twee (groepen) betrokkenen zijn. Namelijk de marketeers en de gebruikers van Apple. In de morele analyse worden per gebruikersgroep en per uitgangspunt de argumenten op een rijtje gezet. In een vereenvoudigde en verkorte versie kan dat er dan zo uit zien:
| Apple Marketeer(s) | Apple Gebruiker(s) | |
| Normen | Ik houd me aan de wet | Ik heb recht op privacy |
| Waarden | Ik bespaar gebruikers tijd bij het zoeken (hulpvaardigheid) | Ik wil volledig geïnformeerd zijn (zelfstandigheid) |
| Deugden | Ik geef relevante resultaten (kwaliteit, betrouwbaarheid) | Ik maak bewuste keuzes (zelfredzaamheid) |
Formulering van een oordeel (stap 3)
Als alle argumenten op een rijtje staan, is het tijd voor het oordeel. Het oordeel is het antwoord op de morele vraag. Dit is een persoonlijk afweging. Het draait daardoor om welke argumenten voor jou het zwaarst wegen. En dat kan nog best een lastige afweging zijn. Er zijn gelukkig een aantal mogelijkheden om ook dit proces op te delen in kleinere stappen. Deze stappen zijn:
- Welke soorten verantwoordelijkheden spelen hier (wettelijk, vanuit de taak of alleen als deugd)?
- Welke vrijheden staan hier op het spel?
- Welke rechten zijn erbij betrokken?
De uitdaging is hier daarom opnieuw tot een afgewogen oordeel te komen. Naast het langslopen van bovenstaande stappen bieden ook de uitgangspunten van moreel leiderschap houvast om geen dingen over het hoofd te zien. Tot slot helpt je afweging af te stemmen met anderen. Dit heeft meerdere voordelen. Ten eerste helpt het om je eigen gedachten en waarden aan te scherpen. Daarnaast stem je je argumenten af met anderen in je team, organisatie of ecosysteem waarbinnen je opereert. Je oordeel heeft meer effect, als anderen zich erin herkennen.
Realiseer je in alle gevallen dat het inspanning kost om denkfouten te voorkomen en ook echt te luisteren in gesprekken met anderen. Focus is in deze fase daarom belangrijk. Het moreel waardenkompas geeft inzicht in de mate waarin je de uitgangspunten van moreel leiderschap toepast.
Reflectie op het oordeel (stap 4)
Deze laatste stap is een check voor jezelf. Je hebt je oordeel ‘in het heden’ genomen. Heb je echter ook aan de gevolgen gedacht? En passen die gevolgen ook bij de waarden die als persoon nastreeft? Sta ook even stil bij het gevoel dat het oordeel oplevert. Als het een onbehagelijk gevoel oplevert, dan zit er nog iets niet lekker. Heb je echt gekozen op basis van de uitgangspunten die voor jou het zwaarst wegen? Of heb je andere belangen mee laten wegen? Dat laatste hoeft niet erg te zijn, als je voor jezelf kunt onderbouwen waarom je dat doet.
Tot slot is de vraag: ga je het oordeel ook daadwerkelijk in de praktijk brengen? Ofwel: zet je de normen en waarden ook om in deugden?
Nick Nijhuis maakt organisaties digitaal volwassen, is docent in business innovation, trainer in moreel leiderschap en NIMA-examinator.
Pingback: Moreel beraad beginnen en afronden - Moreel Leider
Pingback: Robuuste, ethische AI systemen bouwen - Moreel Leider