Вам знаком психологический мысленный «эксперимент с вагонеткой»? Впервые он был сформулирован в 1967 году английским философом Филиппой Фут, но позже получил несколько иных интерпретаций.

Классический же концепт эксперимента заключается в поиске ответа на следующий вопрос:

«Тяжелая неуправляемая вагонетка несется по рельсам. На пути ее следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам».

Так или иначе, результат вашего выбора привет к смерти – погибнет либо один человек, либо группа из пяти. Каковы ваши действия?

В различных версиях «Проблемы вагонетки» рассматриваются разные сочетания потенциальных жертв. В одном приводится выбор из группы преступников и одного совершенно невиновного человека, в другой предлагается сделать выбор в пользу здорового человека и группой тяжело больных, в третьем на одну чашу весов предлагается поставить жизнь великого хирурга, а на другую — ребенка. Вариантов очень много, но все они вращаются вокруг способности человека принимать рациональные решения морального свойства.

В ходе нового исследования команда ученых из нидерландского Университета Неймегена и Мюнхенского университета Людвига-Максимилиана (Германия) решила провести аналогичный «эксперимент с вагонеткой», но на этот раз его участников попросили сделать выбор между человеком и человекоподобным роботом. Результаты оказались весьма интересными. При определенных обстоятельствах люди готовы были спасти робота, пожертвовав человеческой жизнью. Свои выводы ученые опубликовали в журнале Social Cognition.

Современные роботы используются во многих сферах. Речь идет не только о производстве. Их начинают использовать дома, в магазинах, в больницах, в отелях в качестве помощников. С развитием робототехники и искусственного интеллекта эти машины становятся все более и более «сообразительными». Нередко роботов используют для выполнения очень сложных и даже опасных задач. Например, современные армии используют машины для поиска взрывных устройств и разминирования. Как показывают наблюдения, человек способен привязываться к машине. И чем выше эта привязанность, тем выше может быть эмоциональный отклик в случае уничтожения робота.

«В армейской практике известны случаи, когда военные в буквальном смысле оплакивали подорвавшегося на мине робота. Для них даже организовывали похороны», — комментирует руководитель исследования Сари Найссен из нидерландского Университета Неймегена.

Исследователи поставили перед собой задачу понять, насколько глубоко может распространяться человеческая эмпатия к машинам и какие моральные принципы способны влиять на наше поведение в отношении к этим машинам, особенно с учетом того, что современные роботы становятся все более и более антропоморфными. По словам Найссена, исследований направленных на изучение этого вопроса к настоящему моменту крайней мало.

Центральный вопрос нового исследования заключался в следующем: при каких обстоятельствах и в какой степени люди будут готовы пожертвовать роботом, чтобы спасти человеческую жизнь? Ученые пригласили принять участие в эксперименте группу добровольцев. Участники были поставлены перед моральной дилеммой: спасти одного индивида или несколько. При этом людей просили выбрать сначала между антропоморфным роботом и обычным, не похожим на человека, затем между человеком и обычным роботом, а затем между человеком и антропоморфным роботом.

Исследование показало, что чем больше роботу приписывалась «человечность», тем сложнее становился выбор для участников. Конечно же при ситуации, когда на одном пути находилась обычная машина, а на другой человек или человекоподобный робот, то выбор участников эксперимента был прост и очевиден. Но все усложнилось, когда, перед человеком становился перед выбором между человекоподобным роботом и человеком – люди стали дольше сомневаться, отмечают исследователи. Когда участники эксперимента представляли робота существом, обладающим сознанием, своими собственными мыслями, опытом, переживаниями и эмоциями, то люди с меньшей вероятностью были готовы были отдавать его в жертву в пользу спасения совсем незнакомого им человека.

«Чем более «человечным» воспринимался робот — а точнее, чем большая эмоциональность приписывалась машине, тем реже участники нашего эксперимента соглашались им пожертвовать», — поясняет один из авторов работы Маркус Полус.

Исследователи оказались довольно обеспокоены такими результатами. По их мнению, если люди начнут «очеловечивать» машины, то это лишит нас возможности использовать их по тому назначению, согласно которому они изначально и создавались. Чтобы не столкнуться с такой ситуацией в будущем, когда машины станут действительно максимально похожими на людей, авторы исследования предлагают разработать концепцию рамок максимально допустимого количества «вкладываемых» в робота человеческих черт.

«Эти результаты показывают, что участники исследования приписывали определенный моральный статус роботу. Попытки гуманизировать роботов не должны заходить слишком далеко. В противном случае они создают конфликт с их первоначальной задачей – помощью людям», — подытоживает Полус.

Преждевременная паника

Так ли актуален вопрос гуманизации роботов и последствий этой гуманизации прямо сейчас? Далеки ли мы от того переломного момента, когда грань между людьми и человекоподобными роботами будет настолько размыта, что ответить на вопрос о том, кто перед тобой находится – машина или человек – станет проблематично? Какие реальные последствия всего этого нас ожидают?

«Даже если это и произойдет, то не ранее, чем через много десятков лет, — комментирует руководитель проекта и директор по цифровым технологиям Sever.ai, разработчик робота-рекрутера TalentTech Азат Шамсутдинов. – За это время мнение человечества может кардинально измениться. Не исключено, что за счет эволюции, мы не будем стоять именно перед такой формулировкой «человек или робот». Вполне вероятно, что появятся новые категории оценки», — считает эксперт.

«Все это точно не про реалии сегодняшнего дня, потому что искусственный интеллект – это просто вычислительная машина, которая может быть даже не представлена в материальном виде. Например, Sever.ai, как и многие другие программы с искусственным интеллектом – представляют собой просто программу «внутри» компьютера. Ее нельзя ни потрогать, ни увидеть, но при этом она может сама принимать некоторые решения», — добавляет Шамсутдинов.

По мнению специалиста, страшные и мистические истории, связанные с искусственным интеллектом, человекоподобными роботами и страданиями, которые они могут принести в наши жизни, идут прямиком из масс-медиа. В то же время эксперт считает, что при гипотетической ситуации выбор между машиной и человеком будет зависеть в первую очередь от симпатии самого выбирающего к той или иной стороне.

«Я считаю, что в 99% ситуаций человек будет ближе к человеку. Только, если не брать крайние случаи, когда выбор может быть между человекоподобным роботом и маньяком», — добавляет Шамсутдинов.