Как взломать человека

Человечество стоит на пороге не только технологического, но и философского кризиса, считает историк Юваль Харари, автор книги «Sapiens: Краткая история человечества». В интервью Wired он отметил, что новые технологии формируют новые формы антиутопии. И общество пока не понимает, как адаптироваться к меняющейся реальности.

Харари вывел формулу предстоящего глобального кризиса: BCD=HH. В данном случае B — это познания в биологии, C — это вычислительная мощность, а D — это данные. Если помножить их друг на друга, появится возможность взламывать людей (HH — hack humans).

Под взломом исследователь подразумевает возможность управлять человеком на глубинном уровне, то есть контролировать его желания и стремления. Харари опасается, что правительства и корпорации скоро изучат людей настолько, что смогут с легкостью регулировать их мысли. Технологии отдаленно будут напоминать таргетированную рекламу, только их действие будет более точным, а эффект — стопроцентным.

Ранее историк отмечал, что в сложившихся обстоятельствах привычные философские концепции отмирают. Это касается свободы воли и свободы выбора. Люди ошибочно полагают, что контролируют ситуацию, но на самом деле это не так.

Главное следствие масштабного внедрения искусственного интеллекта — это утрата человеком автономии и авторитета. При этом ИИ не обязательно выходить на один интеллектуальный уровень с людьми и обладать сознанием. Алгоритмам достаточно будет изучить личность досконально, чтобы найти самую слабую точку и запустить процесс манипуляций.

Общество подвержено взлому на всех уровнях, но больше всего Харари пугает биологический.

«Эксперты по ИИ могут общаться с философами. С историками — да, пожалуйста. С литературными критиками — замечательно. Но меня пугает их общение с биологами», — признал он в интервью Wired.

Израильский исследователь подчеркивает, что ИИ означает и массу преимуществ. Особенно это касается медицины. Харари подчеркивает, что никто не станет препятствовать внедрению технологии — ведь она способна принести столько пользы людям.

Алгоритмы-манипуляторы

Распространение ИИ в комплекте с биотехнологическими открытиями породит два возможных сценария антиутопии. Первый — надзор-капитализм — даст алгоритмам полную власть над людьми. Машинный интеллект решит за нас, где жить, работать, с кем встречаться и за кого голосовать.

Второй сценарий предполагает укрепление тоталитаризма и диктатуры, при котором каждый житель Земли — это объект непрерывной слежки. Особую роль к этом процессе сыграют биометрические системы, которые не дадут гражданину скрыться от всевидящего ока государства.

«Во времена Сталина и Гитлера таких технологий не было, но через 20–30 лет они могут появиться», — предупреждает Харари.

Историк подчеркивает: люди могут даже не заметить, как оказались во власти ИИ. Большинство не сможет понять, как работают механизмы алгоритмов и как именно нами манипулируют. Человечество привыкло к традиционным формам объяснения и повествования, но машинный интеллект работает со статистическими данными и оперирует другими понятиями.

Харари считает, что чрезмерное усложнение систем — одна из главных актуальных проблем. Из-за этого, например, ученым все сложнее объяснять свои теории и доносить до аудитории суть открытий.

Важный побочный эффект этого — расцвет теорий заговора. По этой причине сейчас возникает все больше антипрививочников и тех, кто не верит в глобальное потепление.

То же касается и сферы финансов — с каждым годом она усложняется, и некоторые концепции можно объяснить, только если потратить 10 лет на изучение экономики и математики.

«В этом тоже выражается философский кризис», — отмечает Харари.

Цифровой колониализм

Он также считает, что сегодня человек борется не с отдельными людьми, а с государствами и корпорациями. Перед лицом таких мощных соперников шансов на успех мало.

Более того, влияние некоторых стран выходит за географические рамки. Историк обвиняет развитые государства и крупные корпорации в цифровом колониализме. Раньше империи выращивали хлопок в Индии или Египте, потом отправляли сырье в Британию, производили одежду и вновь пересылали ее в Индию или Египет, вытесняя местных производителей.

Сейчас то же самое происходит и с данными. Компании «выкачивают» данные из Бразилии и Индонезии, обрабатывают их в США или Китае, а затем создают на их основе продвинутые продукты, которые в итоге распространяют в «колониях».