Об искусственном интеллекте сейчас не говорит и не пишет только ленивый. Но в наше время ИИ — это вовсе не SkyNet из фильма «Терминатор». Пока что ученые имеют дело со слабой формой искусственного интеллекта. В большинстве случаев это относительно сложные нейросети, предназначенные для решения определенных задач.

Многие выдающиеся люди нашего времени обеспокоены возможностью появления именно сильной формы ИИ. По мнению некоторых экспертов, «думающий компьютер» может стать непримиримым противником человека, его врагом. Или же ИИ будущего будет выполнять какие-то свои цели, будучи безразличным к человеку. При этом искусственный интеллект будет уничтожать целые города или страны при возникновении такой необходимости. Для того, чтобы показать подобный сценарий развития технологий, ученые из Кембриджа разработали мод для игры «Цивилизация», пятой ее части.

В этом дополнении можно увидеть то, что может произойти в случае появления сильной формы ИИ без заранее предусмотренных мер безопасности. Ученые занялись разработкой этого мода не вдруг. Специалисты из Кембриджского центра изучения экзистенциальных опасностей ( Cambridge University’s Centre for the Study of Existential Risk, CSER), пытаются понять, что в современном нашем мире может стать непреодолимой опасностью для человека в скором или отдаленном будущем.

Группа была основана в 2012 году, и ее изначальной целью было то, чем она занимается и сегодня — исследование влияния глобальных катастроф различных видов на человека. Рассматриваются только те проблемы, которые потенциально могут привести к уничтожению человечества — цивилизации в ее нынешнем виде или вообще всех людей на Земле. Конечно, эти катастрофы могут быть вызваны далеко не только влиянием искусственного интеллекта, причина может быть и в генетически модифицированном возбудителе опасной болезни, изменениях климата и многом другом.

Что касается игры, то дополнение к «Цивилизации», по словам разработчиков, является частично образовательным, частично — исследовательским проектом.

«Главное, что мы задумали — показать возможный сценарий развития реального компьютерного интеллекта, продемонстрировать опасности, которые может такой интеллект представлять для нас, людей», — говорит Шахар Эйвин, один из участников проекта.

В игре показан и компьютер Deep Blue от IBM, который помогает игрокам ускорить исследования в области ИИ

К слову, дополнение заменяет один из сценариев победы в «Цивилизации», запуск космического корабля к звезде Альфа Центавра разработкой сильной формы искусственного интеллекта. В моде есть новые здания (исследовательские лаборатории), новое чудо (тот самый Deep Blue) и новый механизм, который получил название ИИ-опасность.

Как только игрок запускает программу по изучению ИИ, появляется таймер, получивший название «ИИ-опасность». Если таймер доходит до конца отсчета, то игрок получает сообщение, что где-то в мире создана сильная форма искусственного интеллекта и игра заканчивается поражением геймера.

«Все это похоже на реальную жизнь. Вы можете пройти долгий путь развития цивилизации, но вы теряете все, если управляете созданными технологиями без должной осторожности», — говорит разработчик.

Для того, чтобы избежать негативного сценария развития с поражением в конце, у игрока есть возможность проводить больше научных исследований в сфере ИИ. Чем больше проводится таких проектов, тем медленнее «тикает» таймер. Игроку для победы необходимо разрабатывать технологии контроля над ИИ, и вкладывать средства в проекты соседних стран и властей крупных городов.

«Если вы выбираете сценарий с ИИ, вам необходимо больше разработок в сфере безопасности. Инвестиции в эту сферу не всегда являются очевидной необходимостью, но это нужно делать», заявил Эйвин.

Конечно, «Цивилизацию» нельзя назвать серьезным научно-исследовательским инструментом, но дополнение позволяет осознать необходимость осторожного подхода к разработке ИИ не только обычным игрокам, но и ученым. Риски показаны очень наглядно. И ситуация достаточно реалистичная — игроку необходимо иметь дело с агрессивными соседями, государствами, которые проводят более-менее одинаковые исследования. Если одна из сторон достигает успеха, но не проявляет должной осторожности — поражение неминуемо.

Собственно, для того, чтобы противостоять глобальным опасностям, нужно глобальное взаимодействие. Здесь все показано верно.