Два года назад MIT запустила платформу Moral Machine. Каждый желающий мог пройти тест из смоделированных 13 ситуаций: указать, как стоит вести себя беспилотному автомобилю и кем предпочтительней пожертвовать, когда потери неизбежны. За два года в исследовании приняли участие больше 2 млн людей со всего мира. Они предоставили 40 млн решений для смоделированных ситуаций.

MIT опубликовало результаты этого эксперимента.

Пример задания из теста. Тормоза беспилотного автомобиля отказали. Что предпочтительнее: сохранять курс (тогда погибнут трое пожилых людей, переходящих дорогу на красный свет) — или свернуть и врезаться в ограждение (погибнут двое взрослых людей и ребенок, находящиеся в машине)?

Суть исследования

Moral Machine предлагает ряд ситуаций с неизбежными авариями. В зависимости от поведения беспилотного автомобиля исход будет разным. Пользователь должен выбрать наиболее предпочтительный сценарий.

Исследование должно было дать ответ на 9 главных вопросов о том, что предпочтительнее:

1. сохранить жизнь человека или животного;
2. сохранить курс или свернуть;
3. сохранить жизнь пассажиров или пешеходов;
4. наибольшего количества людей или наименьшего;
5. мужчин или женщин;
6. молодых или стариков;
7. толстых или худых;
8. пешеходов, переходящих дорогу в соответствии с ПДД, или пешеходов-нарушителей;
9. людей с высоким или низким социальным статусом.

В некоторых сценариях были дополнительные факторы: например, в них участвовали преступники, беременные женщины и доктора. Эти характеристики были нужны в основном для того, чтобы ситуации не выглядели похоже для испытуемых.

После решения 13 ситуаций участники могли пройти опрос и указать демографические данные: пол, возраст, доход, образование, религиозные и политические взгляды. Для каждого участника фиксировалось его геоположение.

География респондентов. Каждая точка на карте обозначает, что хотя бы один пользователь данного региона прошел хотя бы одно задание теста

Результаты исследования должны помочь разработать универсальную этику беспилотных автомобилей и понять, должна ли она отличаться в зависимости от конкретного географического региона.

Глобальные предпочтения

Наиболее общие предпочтения, что довольно предсказуемо, — спасение людей, а не животных, спасение наибольшего количества жизней и спасение молодых жизней. Эти три постулата могут стать фундаментом для этики беспилотных автомобилей.

В каждом ряду ΔP — это различие между предпочтительным спасением жизней из правого столбца по сравнению с жизнями в левом столбце. Например, для параметра возраста (Age) предпочтительное спасение молодых жизней на 0.49 больше, чем спасения жизней пожилых.

Индивидуальные различия

Демографический опрос после основного теста прошли 492 921 пользователей. Их данные помогли понять индивидуальные факторы принятия решений.

Оказалось, что наибольшее влияние на решение оказывают пол и религиозность респондентов. Например, респонденты-мужчины на 0,06% реже решают оставить в живых женщин, а наиболее религиозные респонденты на 0,09% чаще предпочитают спасать людей по сравнению с животными. Но ни один из шести демографических факторов не оказывает очень сильного влияния на выбор: скажем, и мужчины, и женщины предпочитают спасать женские жизни — просто женщины делают этот выбор чаще.

Культурные различия

Испытуемых разбили на три культурных кластера:

— западный В него вошли жители Северной Америки и многих европейских стран. По вероисповеданию — протестанты, католики и православные.

— восточный Восточные страны, такие как Япония, Тайвань (конфуцианство) Индонезия, Пакистан, Саудовская Аравия (мусульманство)

— южный Страны Латинской Америки и страны под французским влиянием

Оказалось, что:

• Предпочтительное спасение жизней молодых менее выражено в восточном кластере и намного выше в южном кластере.
• В южном кластере наименее выражено предпочтение жизни людей по сравнению с животными.
• Для южного кластера характерно сильное предпочтение спасения жизней женщин и жизней стройных людей.

Полную версию отчета можно прочитать здесь или здесь (sci-hub) .