Израильский историк и беллетрист Юваль Ной Харари предупреждает, что прогресс в искусственном интеллекте, слежка за гражданами и другие технологии приведут к появлению тоталитарного общества, какого еще не было в истории человечества.

Харари, 43-летний профессор истории Еврейского университета Иерусалима, автор бестселлеров «Sapiens: Краткая история человечества» и «Homo Deus: Краткая история завтрашнего дня», видит признаки грядущего порабощения человечества компьютерами — в частности, вечно развивающимся алгоритмом, который мгновенном обрабатывает огромные массивы данных.

«Мы уже достигли точки, когда новые технологии — сочетание искусственного интеллекта и биотехнологий, биометрических сенсоров, распознавания лиц и голоса — впервые в истории позволяют диктаторским правительствам постоянно следить за своими гражданами, — сказал Харари в интервью Asahi Shimbun. — Это может привести к появлению тоталитарных режимов, гораздо худших, чем все, что мы видели в ХХ веке, хуже, чем Сталин, хуже, чем Гитлер. И у нас не так много времени на то, чтобы это остановить».

Через 10–20 лет самыми важными мировыми проблемами, по его мнению, станут ядерная война, экологическая катастрофа, вызванная климатическими изменениями, и технологический коллапс.

Последний будет вызван развитием ИИ и биотехнологий, которые полностью изменят экономику, политическую систему и нашу жизнь. Неизвестно, как будет выглядеть рынок труда через 30 лет, но роботы постепенно заменят людей. Это значит, что непонятно, чему учить детей сегодня — мы не можем сказать, какие знания пригодятся им в жизни.

«Это не пророчество, — подчеркнул Харари. — Это просто предупреждение, и мы все еще можем предотвратить это. Но если мы не предпримем никаких действий, то новые технологии, возможно, наделят властью очень узкий круг элиты или, в некоторых странах, диктаторский режим, и дадут им больше власти, чем когда-либо в истории».

Но настоящая власть все равно будет у алгоритмов. Взять к примеру финансовую систему, продолжает Харари. Многие ли в мире понимают, как она работает? Может, 1% или того меньше. Через 30 лет их число уменьшится до нуля, поскольку такое количество данных, какие будут анализировать компьютеры, не сможет осмыслить ни один человек. Возможно, президентом все еще будет человек, но решающий голос будет за алгоритмом.

Мы очень близки к точке невозврата, считает Харари. У некоторых стран осталось больше времени, лет 20, у некоторых — всего пять. Но если не предпринять действий сейчас, то из-за гонки ИИ между США и Китаем остальные страны рискуют остаться за бортом.

Большие изменения будут происходить каждые десять лет. И обычным людям придется приспосабливаться, стараясь не отстать от времени. Им придется постоянно переучиваться, по несколько раз в жизни. Для большинства это будет слишком тяжело.

Как этого избежать? Изменения, по мнению Харари, должны происходить и на уровне правительств, и на уровне отдельной личности. В первом случае, регулирующим органам следует ввести контроль за использованием данных и ограничить возможность наблюдения за гражданами. Во втором — люди должны активнее исследовать свои сильные и слабые стороны, и не позволять другим использовать себя. Сам Харари практикует для этого медитацию, но есть и другие способы.

Главное — помнить, что правительства и крупные корпорации будут постоянно пытаться манипулировать тобой. Лишь познав себя, мы сможем ограничить это воздействие.