Автор оригинала: Lance Eliot. Этика ИИ — горячая и актуальная тема в наши дни. И это правильно. С расцветом систем ИИ и их очень большим распространением возникают резонные беспокойства о том, что эти компьютерные системы просто вброшены в этот мир без понимания возможных последствий для общества.

Существует серьезное беспокойство, связанное с тем, что новые системы искусственного интеллекта имеют встроенные в них предубеждения и склонны к токсичным с точки зрения этики и общества действиям.

Когда речь заходит об этике искусственного интеллекта, я утверждаю, что есть по меньшей мере два основных аспекта (или правила):

1. Поведение систем ИИ должно быть приемлемо для общества
2. Разработчики систем ИИ и сами системы должны обеспечивать соблюдение правила 1.

Возможно, суть первого правила очевидна – смысл этики ИИ в том, что поведение этих систем должно соответствовать этическим нормам общества.

Ниже будет показано, что соблюдение первого правила сложнее, чем может показаться.

Важность правила 2 состоит в разъяснении того, что стороны, ответственные за обеспечение полного соблюдения этики ИИ, состоят из людей, которые проектируют, строят и распространяют эти системы.

Если это кажется вам очевидным, то не спешите делать суждения на основании «здравого смысла».

Вокруг систем ИИ существует некая аура, будто они автономны и способны к самоопределению. Таким образом, когда система ИИ совершает нечто вроде проявления расовых предрассудков, некоторые делают логическую ошибку, говоря, что это сделал ИИ, при этом не возлагая ответственности на тех, кто создал и внедрил эту систему.

Некоторые разработчики и производители этих систем, безусловно, предпочли бы, чтобы вы не смотрели в их направлении, когда система ИИ делает что-то не так.

В результате, те, кто несут истинную ответственность, могут делать удивленное лицо и хитро уклоняться от своих обязанностей, говоря, что виноват исключительно ИИ.

Эти люди будут вести себя так, будто они просто наблюдают за крушением поезда, даже если это они поставили его на рельсы и запустили без какого-либо контроля и проверок.

Конечно, некоторые будут защищать свою систему, совершившую ошибку. Они будут говорить, что они пытались предотвратить все сбои, но черт побери, что-то было упущено. В каком-то смысле, эти люди будут пытаться выставить себя «жертвами», противопоставляя себя тем, кто пострадал от действий ИИ.

Не ведитесь на это.

В самом деле, пожалуйста, не ведитесь на это.

Если вкратце, то второе правило столь же важно, как и первое.

Без привлечения людей к ответственности за действия ИИ, созданного ими, мы все сядем в лужу.

Уверен, что создателям будут легко сходить с рук их обещания, связанные с разработкой их новых систем ИИ. Эти люди будут хвалить свои продукты, надеясь на их успех, а также будут делать вид, что они не имеют ничего общего с приложениями, этические ошибки которых сваливались на всех нас. Все это будет поощрять создание систем ИИ, не имеющих моральной ответственности.

Еще одна область, в которой вопросы этики ИИ могут быть особенно сложными – ИИ для военных целей.

Большинство людей согласится с тем, что нам необходимо соблюдать определенные нормы этики ИИ при создании и использовании военных интеллектуальных систем. Те знания и опыт, которые мы получим таким образом, могут быть использованы для коммерческого и промышленного использования ИИ.

Министерство обороны США недавно выпустило свод принципов https://www.defense.gov/…ntelligence/.

Если посмотреть на эти принципы в отрыве (что я сделаю в этой статье), то есть без учета военного и оборонительного контекстов, то можно увидеть, что они одинаково применимы к любым коммерческим или отраслевым системам ИИ.

Я расскажу вам об этих принципах, и использую для этого свою любимую область – появление настоящих беспилотных автомобилей. Это позволит мне наглядно проиллюстрировать насколько применим новейший свод принципов этики ИИ (включая невоенное использование).