Специалист по информатике, когнитивным наукам и философии Брайан Кантвелл Смит в своей колонке для Guardian утверждает, что граница между тем, на что способны алгоритмы машинного обучения, и возможностями людей проходит между понятиями математический расчет и суждение.

Машины судить ни о чем не могут, а значит неэтично перекладывать ответственность за решения, в результате которых страдают люди, на компьютерные расчеты. Это касается в том числе мер, принимаемых правительствами в период пандемии.

Расчет — это, по сути, вычисление: способность обрабатывать данные и распознавать закономерности. Суждение же относится к форме «совещательного мышления, основанного на этическом выборе и ответственном действии, соответствующего ситуации», считает Смит.

Суждение — это не просто представление о мире. Оно возникает из практических отношений с миром, которые есть у человека, но нет у машин. Люди способны видеть мир как единое целое, но также могут разбивать его на отдельные объекты и феномены. Более того, мы обладаем этическим отношением к реальности. Система, обладающая суждением, должна не просто уметь думать, но «проявлять отношение к тому, о чем она думает». Ей не должно быть наплевать, убежден ученый.

Поэтому машины могут лучше людей сортировать данные, но не могут проявлять сострадание к пациентам, какое проявляют врачи и медсестры, для которых они не просто факты или переменные. Они обладают ценностью и достоинством, которое необходимо защищать.

Человеческое суждение не обязательно благосклонно, да и люди не всегда его используют. Но у всех нас есть такая способность. Поэтому люди могут отвечать за свои поступки, а машины — нет. И поэтому неэтично перекладывать ответственность за решения, в результате которых страдают люди, на компьютерные расчеты.

Решения, которые принимают правительства в период пандемии, не должны, по мнению Смита, приниматься исключительно на основании сделанных машинами расчетов, даже если они действительно точны. Машины не в состоянии принимать во внимания этические соображения проблемы, а люди — даже политики — не должны поступать как машины, принимая важные решения.