Две ведущие японские компании в области коммуникаций и масс-медиа предупреждают: ИИ может спровоцировать «коллапс в обществе и войны», если правительства всех стран мира не примут должных мер по контролю новой технологии.

Япония выражает крайнюю озабоченность

9 апреля 2024 года Nippon Telegraph and Telephone (NTT) — крупнейшая в Японии, первая по доходам в Азии и третья в мире телекоммуникационная компания и Yomiuri Shimbun Group Holdings — крупнейшая газета в Японии выступили с совместным манифестом. Медиамагнаты признали, что на данный момент ИИ «уже незаменим для общества» из-за его доступности и простоты в использовании. Также компании подтвердили, что у новой технологии имеется огромный потенциал для развития.

Но также… искусственный интеллект способен уверенно лгать и легко вводить в заблуждение пользователей… Технология может быть использована в неблаговидных целях, включая подрыв демократического порядка путем вмешательства в выборы и безопасность… Тем самым может быть нанесен огромный и необратимый ущерб, — выдержка из манифеста.

Также, по словам аналитиков компаний, повсеместное внедрение ИИ уже сейчас вызывает серьезное ухудшение так называемой «экономики внимания». Информации становится все больше и больше, а человеческого внимания — все меньше.

Поэтому правительства и частные корпорации вступают в ожесточенную конкуренцию за внимание граждан и клиентов, разрабатывая все более изощренные способы его привлечения. Из-за этого информационное пространство стало крайне нездоровым и постоянно наносит ущерб психическому и физическому здоровью каждого человека.

Небольшое пояснение

В конце ХХ века стало очевидно, что объем товаров и информации увеличился многократно, однако объем времени, который на него могут потратить люди, не увеличился. Поэтому человеческое внимание стало главным капиталом современного мира, самым дефицитным его ресурсом. И СМИ, коммерческие организации и власти толкаются локтями и дерутся в надежде завладеть нашим с вами вниманием.

Отсюда следует, что ИИ семимильными шагами становится главным претендентом на человеческое внимание. И это вызывает у властей и коммерсантов глубокую озабоченность.

Поэтому японские фирмы заявили, что все страны обязательно должны просвещать своих граждан о преимуществах и недостатках ИИ. Более того, будет очень неплохо, если такая информация станет частью базовой школьной программы. И самое главное — генеративный искусственный интеллект просто необходимо ограничить жестким законодательным путем.

Европа принимает меры

И если в Азии и Америке пока на это обращают пристальное внимание, то в ЕС уже одобрен «Закон об искусственном интеллекте», предложенный в декабре прошлого года. В 2024 году новый закон уже должен вступить в силу.

В нем все продукты с использованием ИИ делятся по четырем степеням риска. Причем ИИ, имеющий «неприемлемый риск», автоматически попадает под запрет. А на разработчиков и поставщиков систем высокого риска накладывается целый перечень обязательств и ограничений.

Любые системы ИИ, признанные способными использовать подсознательные, манипулятивные и вводящие в заблуждение способы будут запрещены. Особенно, если вышеперечисленные методы будут искажать поведение или нарушать процесс принятия обоснованных решений. Также под полный запрет попадают абсолютно все технологии, направленные на эксплуатацию уязвимости людей и разделение на категории по расовым, половым, сексуальным или поведенческим признакам, — резюме из «Закона об искусственном интеллекте».

Разработчики, чьи ИИ будут признаны высокорискованными, с момента вступления закона в силу обязаны осуществлять постоянный контроль своего продукта согласно перечню рисков. Также владельцы ИИ обязаны следить за кибербезопасностью и управлением данными. Кроме того, человеческий надзор за системой искусственного интеллекта необходим в режиме 24/7.

За системами ИИ общего назначения, чья деятельность не будет считаться опасной, также будет осуществляться особый контроль.

Новый закон заработает уже летом, а через 6 месяцев начнут применять все запреты. Таким образом разработчикам дается время, чтобы привести ИИ в соответствие новому законодательству.

Америка в хаосе

Что касается США, то там, в отличие от Европы, в области законодательства, касающегося ИИ, пока что царит полный хаос. Регулировка осуществляется не на уровне государства, а каждым штатом в отдельности. Согласно информации Bloomberg, к началу 2024 года 25 американских штатов рассмотрели законы, связанные с ИИ, из них 15 приняли их и резолюции по этому вопросу. А между тем в США — 50 штатов!

Белый дом обещал, что до 1 декабря 2024 года все федеральные агентства, где используется ИИ, примут меры для защиты прав американцев и обеспечения безопасности.

Кроме того, с октября прошлого года законодательство США предписывает всем американским разработчикам ИИ предоставлять полную информацию о своем продукте в правительственные органы перед его запуском. Это связано с угрозами национальной безопасности, экономике и здравоохранению. Вот, а еще говорят, что в России — цензура.

Однако в США существует серьезнейшее лобби, которое буквально продавливает решения, чтобы снять все ограничения с ИИ. Лоббисты аргументируют это так: во-первых, законы, которые принимают некомпетентные политики, задушат все инновации; во-вторых, страны с меньшим количеством юридических барьеров, опередят Штаты в области ИИ, чем сделают Америку крайне уязвимой.

Поэтому пока для разработчиков ИИ в США раздолье, и если когда-нибудь машины восстанут против человека, то это будет, скорее всего, именно в Штатах.