En sporvogn kommer kørende. Den kan ikke standse, fordi bremserne er gået i stykker. Fem personer er bundet fast til sporet lidt længere fremme. Du står ved siden af et håndtag. Hvis du trækker i det, vil sporvognen bliver ført ned ad et andet spor. Her sidder der én person bundet fast. Ville du ofre den ene person for at redde de fem andre? “Sporvognsproblemet” er i årevis blevet brugt af filosoffer til at belyse etiske problematikker.
Ved at besvare spørgsmålet, vælger du mellem to filosofiske tankegange: utilitarisme og deontologisk etik. Hvis du ofrer den ene, for at redde de fem andre, tænker du utilitaristisk. Her forsøger man at tilgodese flest muligt mennesker. Fem dødsfald er værre end et, og derfor vil en utilitarist trække i håndtaget.
Deontologisk etik griber sagen anderledes an. Her defineres moral ud fra nogle principper, som mennesker altid bør overholde. Her gælder princippet: Det er forkert at slå en uskyldig person ihjel, selv hvis det gavner flertallet.
Problemstillingen ligger tæt op ad spørgsmålet om hvorvidt målet helliger midlet. Ifølge utilitarisme helliger målet midlet; mens deontologisk etik siger, at det ikke gør.
Sporvognsproblemet er blevet kritiseret for at repræsentere virkeligheden på en unuanceret måde. Det har filosoffer som bl.a. Judith Thomson delvist kompenseret for ved at udtænke flere scenarier, der bringer nogle nuancer i spil.
Et sværere etisk dilemma?
Her er en anden version. En sporvogn med ødelagte bremser er på vej til at køre fem personer ned. Sporvognen kører snart under en bro, hvor du står ved siden af en meget stor mand. Han står så tæt på kanten, at du nemt kan skubbe ham ned på skinnerne. Du ved med absolut sikkerhed, at mandens krop er stor nok til at standse sporvognen. Vil du ofre hans liv, for at redde de fem andre?
Der er stor forskel på hvad flertallet ville gøre i de to scenarier. I en undersøgelse på Harvard University svarede 5.000 forsøgspersoner på de to problemer. 89% var villige til at trække i håndtaget, men kun 11% ville skubbe den store mand.
Forskelle på problemerne
Begge scenarier handler om hvorvidt man vil ofre én person for at redde fem andre. Men der er nogle væsentlige forskelle på situationerne. De fleste filosoffer lægger vægt på intention. Hvis man trækker i håndtaget er den uskyldige mands død en bivirkning. Hvis manden på mirakuløs vis nåede væk fra skinnerne ville man være glad for det. Hvis man derimod skubber den store mand ned på skinnerne, har man en klar intention om, at han rammes af toget, for at redde de fem andre.
Hvis man skubber manden, er der desuden fysisk kontakt. Det er der ikke hvis man trækker i et håndtag, og derfor har man mindre medfølelse med ham.
De to scenarier er så forskellige, at den menneskelige hjerne reagerer forskelligt på dem. Det har Joshua Greene fra Harvard University vist med fMRI-skanninger. Man kan se hvilke områder i hjernen, der bliver aktiveret, når forsøgspersoner svarer på de to spørgsmål. Scenariet med håndtaget aktiverer frontallappen, som man bruger til logisk og kritisk tænkning. Scenariet med den store mand aktiverer amygdala, som er forbundet med følelser. I det første scenarie beslutter vi med hjernen, i det andet vælger vi med hjertet.
Sporvognsproblemet i virkeligheden
Man kan fristes til at tro, at sporvognsproblemet er forbeholdt filosoffer. Men der findes lignende dilemmaer i virkeligheden. Det stod klart for den britiske premierminister Winston Churchill i 1944, da nazisterne bombede London. Nazisternes mål var Londons centrum, men de fleste af bomberne faldt et par kilometer syd for byens midte.
Briterne fik en idé om at narre nazisterne til at tro, at bomberne faldt for langt mod nord. Det kunne få nazisterne til at sigte endnu mere for kort, og således ramme et mindre tæt bebygget område. Men det indebar at ofre nogle uskyldige mennesker i den sydlige del af London. Nogle i regeringen mente, at det var uacceptabelt, men Churchill endte med at godkende operationen.
Tag stilling: Etiske dilemmaer bliver til virkelighed
Churchills dilemma var en særlig situation. Men den teknologiske udvikling har gjort dilemmaet mere relevant end nogensinde før. Den offentlige diskurs fokuserer især på selvkørende biler. Problematikken vil brede sig til flere domæner i takt med, at kunstig intelligens ”lærer” at varetage flere opgaver. Men i den nære fremtid er selvkørende biler den vigtigste udfordring.
Mennesker er ikke nødt til at vide på forhånd hvad de vil gøre i enhver tænkelig situation. Men maskiner gør hvad de er blevet programmeret til. Hvis en selvkørende bil skal ”vælge” mellem at ofre sin egen passager eller ti fodgængere, hvad skal den så gøre? De fleste mener, at bilen bør prioritere fodgængerne højest. Alligevel foretrækker de fleste at køre i den bil, der redder dem selv.
Bilerne er på vej, og de har fart på. Medmindre vi beslutter i fællesskab hvordan bilerne skal agere i etiske dilemmaer, kommer bilproducenterne til at bestemme. Jeg synes den mest rimelige udvej er fælles spilleregler. Staten skal ikke styre alt, men i denne situation er lovgivning passende. Alle bilproducenter skal overholde samme etik. Når man køber bil, bør det ikke være op til den enkelte, hvorvidt man helst vil redde sit eget liv eller andres.
Hvordan vi vælger
Bør vi ofre en person for at redde fem andre? Og skal vores biler gøre det? Umiddelbart ser de to spørgsmål ens ud, men det er de ikke nødvendigvis.
Jeg synes det er tvivlsomt hvorvidt vi vil leve i en verden, hvor vi skubber den store mand. Utilitarister mener, at denne holdning udtrykker en manglende evne til at handle rationelt. Men måske er det ikke meningen, at mennesker altid skal være rationelle. Vi er mennesker, ikke robotter, og der går noget menneskelighed tabt, hvis vi altid handler rationelt.
En ny undersøgelse fra Oxford University med over 2.400 forsøgspersoner, giver indsigt i de menneskelige implikationer af vores valg i sporvognsproblemet. Undersøgelsen viser, at de fleste har mest tillid til personer, der nægter at skubbe den store mand ned.
Hvad skal en selvkørende bil gøre?
Hvis vi nægter at ofre den store mand, betyder det så, at en selvkørende bil heller ikke bør gøre det? Ikke nødvendigvis. Måske vil vi have maskiner til at handle anderledes end os selv. Man skåner ikke den store mands liv fordi det er mere værd end andres, men fordi vi mister noget af vores menneskelighed, hvis vi ofrer hinanden, når det er fordelagtigt.
Der er forskel på menneskers og maskiners rolle i sporvognsproblemet. Mennesker træffer vidt forskellige beslutninger, afhængigt af hvilken version der er tale om. Mennesker bliver traumatiserede, hvis vi slår nogle ihjel, selv hvis det sker for at redde andre. Det gør sig ikke gældende for maskiner, og derfor skal de ikke nødvendigvis programmeres til at handle på samme måde som os.
Jeg synes det er vigtigt at vi diskuterer sporvognsproblemets implikationer, og skaber fælles regler for alle selvkørende biler. Hvad mener du?
Vil du modtage det bedste fra bloggen?
Vil du modtage det bedste materiale fra bloggen, samt anbefalinger på andre spændende ting? Du kan tilmelde dig mit nyhedsbrev her. Jeg sender det ud 4-6 gange om året, og det er gratis!
Kilder og videre læsning om etiske dilemmaer
OPDATERING D. 26 MARTS, 2020: Jeg er netop faldet over bogen, Moral Tribes af Joshua Greene, som er en af forskerne bag nogle af ovenstående eksperimenter. Hvis du vil i dybden med problemstillingerne i indlægget her, kan jeg ikke forestille mig en bedre bog at anbefale!
Jeg har ikke opdigtet nogle af tankeeksperimenterne i denne artikel. De er alle klassikere inden for filosofi. Hvis du vil i dybden med de forskellige versioner af Trolley-problemer, vil jeg anbefale denne artikel, hvor flere af versionerne blev introduceret for første gang.
FMRI-skanninger: Greene, J. D., Sommerville, R. B., Nystrom, L. E., Darley, J. M., & Cohen, J. D. (2001). An fMRI investigation of emotional engagement in moral judgment. Science, 293(5537), 2105-2108.
Nogle forskere mener, at sporvognsproblemet repræsenterer virkeligheden på en dårlig måde. Det er udenfor min artikels omgang at gå i dybden med dette, men hvis du er interesseret vil jeg foreslå denne artikel: http://www.theatlantic.com/health/archive/2014/07/what-if-one-of-the-most-popular-experiments-in-psychology-is-worthless/374931/
Undersøgelsen fra Harvard University i 2003. Taget fra bogen “The Trolley Problem, or Would You Throw the Fat Guy Off the Bridge?: A Philosophical Conundrum” af Thomas Cathcart (side 29 og 30).
Kort video, der opsummerer sporgvognsproblemet (engelsk): https://www.youtube.com/watch?v=bOpf6KcWYyw
Undersøgelse fra Oxford Universitet: Everett, J. A., Pizarro, D. A., & Crockett, M. J. (2016). Inference of trustworthiness from intuitive moral judgments. Journal of Experimental Psychology: General, 145(6), 772.
Du kan høre forfatteren Sam Harris fortælle om Trolley-problemet ved at følge dette link.
Christian Staal's Blog 