Trolleyproblemet: vad ditt svar avslöjar om din moralpsykologi

Dra i spaken eller knuffa mannen? Aritmetiken är identisk; de flesta svarar olika.

Scenariot

En skenande spårvagn är på väg mot fem personer bundna vid rälsen. Du kan dra i ett spak och leda om den till ett sidospår, där en person är bunden. Dra: en dör, fem lever. Dra inte: fem dör. Vad gör du? De flesta säger dra. Nu en variant: du står på en bro. Det enda sättet att stoppa spårvagnen är att knuffa ner en stor man — hans kropp stoppar den. Han dör; de fem lever. Knuffar du? De flesta säger nej — trots att aritmetiken är identisk.

Judith Jarvis Thomson och filosofin

Trolleyproblemen formaliserades av Judith Jarvis Thomson i ett paper 1985 med utgångspunkt i Philippa Foots tidigare arbete. Thomson var intresserad av att skilja mellan skada som medel kontra skada som bieffekt — läran om dubbel effekt. Utilitaristen säger: utfall är det som spelar roll; båda handlingarna räddar fyra netto. Deontologen säger: det finns begränsningar för vad du får göra med en person — att använda någons kropp som instrument kränker deras värdighet på ett sätt som att avleda en spårvagn inte gör.

Haidts utmaning: känslor kommer först

Jonathan Haidts forskning i "The Emotional Dog and Its Rational Tail" (2001) hävdade att moraliska omdömen primärt drivs av snabba emotionella intuititioner, med rationellt resonemang som spelar en retroaktiv rationaliseringsroll. I experiment med moralisk förbluffning fattar deltagare moraliska omdömen de inte kan motivera — de känner att något är fel men kan inte formulera en sammanhängande anledning. Resonemanget följer känslan; det producerar den inte.

Vad fMRI-studier visar

Joshua Greene vid Harvard genomförde hjärnavbildningsstudier. Personliga moraliska dilemman (som brovarianten) aktiverade emotionella hjärnregioner starkare än opersonliga dilemman. Utilitaristiska omdömen i personliga dilemman korrelerade med aktivering i kognitiva kontrollregioner och längre svarstider — som om personen aktivt överstyrde ett emotionellt svar.

Varför detta spelar roll för AI-etik

MITs Moral Machine-projekt samlade 40 miljoner moraliska beslut från människor i 233 länder om trolleyproblemsliknande val för autonoma fordon. Datan avslöjade starka tvärkulturella mönster samt signifikanta kulturella variationer. Det finns inget universellt svar, och att bädda in något specifikt svar i driftsatta AI-system utgör ett icke-valt etiskt val.

Vanliga frågor

Fråga: Är trolleyproblemet för artificiellt för att ge användbara moraliska insikter?

Svar: Trolleyproblemet är artificiellt med avsikt — det avlägsnar förvirrande faktorer för att isolera specifika moraliska principer. Verkliga moraliska situationer innefattar osäkerhet och kontext som saknas i det stiliserade scenariot. Men intuitinerna det avslöjar är verkliga och driver verkligt beteende: medicinsk triage, militära målinriktningsregler och AI-etik brottas alla med strukturellt identiska avvägningar.

Fråga: Vad visar psykologisk forskning om de som väljer utilitaristiska svar?

Svar: Studier av Bartels och Pizarro (2011) fann att individer som gav utilitaristiska svar poängsatte högre på mått på psykopati och machiavellism. En metaanalys av Kahane och kollegor 2020 fann att utilitaristiskt omdöme är kopplat till minskad empati. Det komplicerar antagandet att utilitaristiska svar representerar klarare moraliskt tänkande.

Nyfikna sinnen hör ihop. Hitta människor som ställer samma frågor på Good People Map.