26 октября 2021 года в Москве на Международном форуме «Этика искусственного интеллекта: начало доверия» крупнейшие технологические компании России приняли Кодекс этики в сфере искусственного интеллекта. Технологии искусственного интеллекта делают жизнь человека проще, но из-за новизны и быстрого распространения этих технологий, многие начинают сомневаться, в действительности ли машины на нашей стороне? Предполагается, что Кодекс повысит доверие общества к решениям искусственного интеллекта.

Многое в мире человек создал по подсмотренным в природе механизмам. Так произошло и с искусственным интеллектом. В то время как человеку необходимо время на изучение задачи, ему мешают эмоции или просто нужно автоматизировать какие-то процессы в целях экономии личного времени, искусственный интеллект может взять принятие решения на себя. С чем может быть связано недоверие к искусственному интеллекту?

Вопросы этики

Если машина может обучиться каким-то алгоритмам по выполнению простейших действий, то в вопросах этики всё намного сложнее, особенно в критических ситуациях, когда действие зависит от результата быстрого анализа сразу нескольких сложившихся обстоятельств.

Один из ярких и наиболее известных примеров этичного выбора – проблема вагонетки. Философ Филиппа Фут в 1967 году сформулировала мысленный эксперимент о том, какой выбор сделает человек, если у него всего два доступных варианта. На примере трамвая на ходу, какую колею выберет человек, если на пути трамвая с одной стороны один человек, а с другой пять. Будет ли жизнь одного человека менее ценна, чем жизнь пятерых?

Далее многие философы продумывали всё более невероятные сценарии, где человеку требуется сделать выбор. Например, по рельсам едет быстро несущаяся вагонетка с привязанными пятью людьми. Единственный способ остановить её – преградить путь чем-то большим, а рядом только вы и человек большой комплекции. Столкнёте ли вы его на пути, чтобы спасти пятерых? А если вы знаете, что этот человек – злодей, который и привязал несчастных?

Теперь «проблему вагонетки» предстоит решить искусственному интеллекту, только уже на примерах, более близких к реальной жизни. Несколько лет назад исследователи Массачусетского технологического института (MIT) представили тест, в котором любой желающий может поставить себя перед сложным моральным выбором, ощутить себя на месте искусственного интеллекта – беспилотной машины. Кто погибнет при внезапно вышедшей из строя тормозной системы машины: пожилые люди, которые переходят дорогу на красный цвет светофора на пути машины, или она свернёт на другую сторону, где в положенное время переходят дорогу мужчина и маленький мальчик? Искусственный интеллект предпочтёт врезаться во внезапно возникшее ограждение на пути, тогда погибнут пассажиры самой машины: трое мужчин и одна девочка, или свернёт на дорогу, где в неположенное время переходят дорогу трое пожилых мужчин и пожилая женщина? А далее задачи идут на усложнение и с добавлением социального статуса и видовой принадлежности. Например: выживут собаки или кошки, беременная женщина, женщина-врач или другие? После которых человек может задуматься, а действительно ли он захочет садиться в машину, когда в экстренной ситуации, вероятно, машина выберет не его жизнь, а жизнь другого?

«Проблема вагонетки» для беспилотного автомобиля. Тест MIT «Moral machine». / Иллюстрация: скриншот одного из вопросов теста с описанием ситуаций. / Источник: moralmachine.net

Эти ситуации только кажутся невероятными, но настоящими «вагонетками» современности в действительности могут оказаться беспилотные автомобили. Так большую огласку по всему миру получила ситуация, когда беспилотный автомобиль Uber в 2019 году насмерть сбил женщину, которая переходила дорогу в неположенном месте. Это ДТП стало первым в истории, когда человек умер при наезде беспилотного автомобиля.

Доверять или не доверять?

Человечеству не впервой с опасением относиться к технологическим новшествам.