Проблема трамвая: что ваш ответ говорит о вашей моральной психологии

Дёрнуть рычаг или толкнуть человека? Арифметика одинаковая, большинство отвечает по-разному.

Условие

Трамвай несётся к пятерым людям, привязанным к рельсам. Вы можете дёрнуть рычаг и отправить его на боковой путь, где привязан один человек. Дёрнуть — один умирает, пятеро живут. Не дёрнуть — пятеро умирают. Что вы делаете? Большинство говорят: дёрнуть. Теперь второй вариант: вы стоите на мосту. Единственный способ остановить трамвай — столкнуть крупного человека вниз, его тело остановит трамвай. Он умрёт, пятеро спасутся. Вы его толкаете? Большинство говорят: нет — хотя арифметика идентична.

Философия: Джудит Джарвис Томсон

Проблему трамвая формализовала Джудит Джарвис Томсон в статье 1985 года, развивая работы Филиппы Фут. Томсон исследовала различие между вредом как средством и вредом как побочным эффектом — доктрина двойного эффекта. Утилитарист скажет: важны только результаты; в обоих случаях спасаются четыре человека в чистом итоге. Деонтолог возразит: есть ограничения на то, что позволено делать с человеком, — использовать тело как инструмент нарушает достоинство иначе, чем отвести трамвай.

Вызов Хайдта: сначала эмоции

Социальный психолог Джонатан Хайдт в статье «Эмоциональный пёс и его рациональный хвост» (2001) доказывал: моральные суждения первично движимы быстрыми эмоциональными интуициями, а рациональное рассуждение играет роль постфактумного обоснования. В экспериментах с «моральным остолбенением» участники выносят моральные суждения, которые не могут обосновать — чувствуют, что нечто неправильно, но не могут сформулировать связную причину. Когда их обоснования опровергаются, они не меняют суждение.

Что показывают исследования фМРТ

Джошуа Грин из Гарварда провёл нейровизуализационные исследования. Личностные моральные дилеммы (вроде варианта с мостом) активировали эмоциональные области мозга сильнее, чем безличностные (вроде варианта с рычагом). Утилитарные суждения в личностных дилеммах коррелировали с активацией зон когнитивного контроля и более долгим временем ответа — словно человек активно подавлял эмоциональный отклик.

Почему это важно для этики ИИ

Проект MIT «Моральная машина» собрал 40 миллионов моральных решений от людей в 233 странах в сценариях типа «выбор трамвая» для автономных транспортных средств. Данные обнаружили как кросс-культурные паттерны, так и значительные культурные вариации. Не существует универсального ответа, и встраивание любого конкретного ответа в ИИ-системы представляет собой невыбранный этический выбор.

Часто задаваемые вопросы

В: Является ли проблема трамвая слишком искусственной, чтобы давать полезные нравственные выводы?

О: Проблема трамвая искусственна намеренно — она устраняет посторонние факторы, чтобы изолировать конкретные нравственные принципы. Реальные моральные ситуации включают неопределённость и контекст, отсутствующие в стилизованном сценарии. Но интуиции, которые выявляет проблема трамвая, реальны и управляют реальным поведением: медицинская сортировка, правила военного нацеливания, распределение ресурсов здравоохранения — всё это структурно идентичные компромиссы.

В: Что психологические исследования показывают о тех, кто выбирает утилитарные ответы?

О: Исследования Бартелса и Пицарро (2011) показали: индивиды, давшие утилитарные ответы, набирали более высокие баллы по шкалам психопатии и макиавеллизма. Метаанализ Кейна и коллег (2020) обнаружил, что утилитарные суждения связаны со сниженной эмпатией. Это осложняет предположение о том, что утилитарные ответы представляют более ясное нравственное мышление.

Любопытные умы находят друг друга. Познакомьтесь с теми, кто задаёт те же вопросы, на Good People Map.