24 августа 2016 года шеф-редактор Скотт Дадич, президент США Барак Обама и глава лаборатории Media Lab Массачусетского технологического института Джои Ито собрались в Белом доме, чтобы поговорить о том, как государства должны подготовиться к сингулярности для ноябрьского выпуска журнала Wired. Вместо прощального интервью уходящего политика, получился интересный разговор на важные темы, по итогам которого можно обнаружить, что, практически, «мы с тобой одной крови — гик и президент США».

Полный текст интервью и русский перевод

Сингулярность уже давно превратилась в эдакого слона в комнате — её неизбежность вроде как никем не оспаривается, но при этом, опять же, никем особо не обсуждается, оставаясь предметом научных дискуссий да срачей в комментах на «Гиктаймсе».

Понять, почему так происходит, не сложно. Взять, к примеру, глобальное потепление: несмотря на то, что полярные льды продолжают таять, апокалиптическая картина затопления прибрежный территорий по всей планете по-прежнему в массовом сознании относится скорее к фантастическим фильмам вроде «Послезавтра», нежели к реально возможной перспективе будущего. Точно так же тема искусственного интеллекта кажется настолько оторванной от жизни, что в массовом сознании она воспринимается исключительно как традиционный элемент не слишком правдоподобного сюжета очередного громкого летнего блокбастера.

Причины этого хорошо известны всем визионерам: Стив Джобс, объясняя бесполезность фокус-групп для оценки востребованности новых изобретений, цитировал Генри Форда: «Если бы я спросил своих клиентов, чего бы они хотели, они ответили бы мне: “Более быструю лошадь”». Иными словами, люди в большинстве своём опираются на уже имеющийся опыт — поэтому ситуации, радикально меняющие их реальность, кажутся абсолютно нереальными.

Сингулярность — т.е. переход в реальность, в которой машины начнут учить сами себя и человек рискует потерять контроль и даже представление о том, что происходит в их электронных мозгах — настолько вопиюще отличается от последних тысяч лет накопленного опыта человеческой цивилизации, что проще об этом вообще не думать, чтобы не забивать мозг. Научное и гик-сообщество не сильно в этом помогает, не заморачиваясь выпуском книг, статей и смешных роликов на YouTube в формате Singularity for Dummies.

И в этот момент действующий американский президент в интервью для одного из крупнейших гиковских изданий мира демонстрирует владение темой на уровне если не профессора МТИ, то как минимум качественно разбиравшегося в вопросе и делавшего самостоятельные выводы гика. И уж точно лучше, чем тот самый профессор способный эти выводы сформулировать — к вопросу о языке, на котором наука общается с широкими народными массами: на видео отлично видно, как трудно Джои Ито даётся сказать что-то внятное. Тогда как Обама говорит хотя и медленно, но верно, по делу и совершенно без воды и пустой демагогии.

Основной акцент Обама делает на специализированные ИИ, которые в отличие от пока что ещё отдалённой перспективы полноценного ИИ, уже стали частью повседневности. Пусть, судя по идущей президентской кампании в США, люди по-прежнему традиционно сильнее боятся, что их рабочие места украдут иностранцы, чем машины, уже пора беспокоиться о том, чьи рабочие заберут роботы и нейросети:

ИИ сможет заманить не только низкоквалифицированный труд — даже требующие высокой квалификации задачи, содержащие в себе значительные элементы рутины и повторяемости тоже, скорее всего, смогут выполняться компьютером.

В отличие от популистов и алармистов, Обаму по духу можно отнести к настоящим гикам, потому что он разделяет технооптимизм, свойственный научному и IT-сообществу:

история показала, что человечество всегда усваивает новые технологии, люди видят, что создаются новые рабочие места, адаптируются — и уровень жизни в итоге растёт.

Текстовая версия беседы с Обамой содержит больше контента, чем видеоверсия интервью. В частности, в полной версии разговора Обама всё-таки отвечает на вопрос как подготовиться к возможной будущей войне со «Скайнетом» — ответ лежит где-то в области борьбы с пандемиями:

Разумеется, президент США должен был прокомментировать вопрос государственного участия. Начал он опять же с греющего душу гика заявления, что он сторонник «расцветания тысячи цветов»:

вмешательство государства должно ограничиваться относительно лёгкими мазками и щедрыми инвестициями в науку и поддержку связей между фундаментальными и прикладными исследованиями.

Но всё же считает, что государство должно вкладываться в ИИ больше:

Пример, к которому мы по-прежнему обращаемся, когда речь заходит о великих технологических прорывах, и сейчас, 50 лет спустя, является высадка на Луну. Мне тут напомнили, что космическая программа тогда съедала полпроцента ВВП. Это звучит не очень страшно, но сегодня это бы означало тратить $80 млрд в год только на ИИ. В действительности же мы тратим, думаю, менее миллиарда.

И объясняет, почему это важно:

если мы хотим, чтобы интересы общества во всём его многообразии нашли своё отражение в новых прорывных технологиях, то правительство должно финансово в них участвовать. А если государство от этого уклонится, то социальные аспекты прогресса рискуют остаться либо незамеченными, либо недостаточно хорошо продуманными.

Впрочем, снова успокивая особо нервных гиков, что участие государства должно обеспечивать common interests, а не интересы этого самого государства. Подход явно незнакомый политикам в современной России, кстати говоря:

Я хочу подчеркнуть, что государственное финансирование и участие в сборе данных не означает, что мы хотим присвоить или милитаризовать эти технологии. Простой пример: для проекта по точной медицине требовалось собрать достаточно большое количество информации о геномах большого и раношёрстного числа американцев. Но вместо того, чтобы дать деньги Гарварду или Стэнфорду, где они хранят свои образцы, мы запустили полноценную генетическую базу данных, к которой могут получить доступ все желающие. Это пример общего интереса, общей архитектуры, гарантирующей прозрачность исследований вместо их монетизации кем-то конкретным.

Безусловный базовый доход

Не обошлось и без упоминания темы базового дохода, которая напрямую связана с темой ИИ и сингулярности, но куда проще объяснима и понятна обывателю, поэтому захватила куда большее число умов в последнее время. Обама не даёт прямого ответа на этот вопрос, но говорит о том, что современная шкала оценки полезности (и, соответственно, оплачиваемости) разного вида деятельности в обществе не кажется ему справедливой, так что проникновение ИИ в нашу жизнь грядущие в связи с этим изменения вынудят нас в итоге придти к новой версии общественного договора. В которой, возможно, будет место безусловному доходу — а может, будут найдены иные формы и модели:

Мы слишком мало платим учителям, хотя это тяжёлый труд, в котором компьютер вряд ли будет адекватной заменой действительно хорошему учителю. Так что пересмотр расходов, которые мы готовы себе позволить на учителей, медсестёр, воспитателей, сидящих с детьми мам или пап, художников и других, кто занят важными для нас, но не слишком ценимыми вещами — вопрос, который надо начать обсуждать.

В этом с ним согласен и Джои Ито, демонстрируя традиционную для академических кругов левизну во взглядах:

Я думаю, общее представление в духе Уолл-Стрит: «если ты такой умный, то почему ты такой бедный» — является одной из проблем. А сейчас, работая в академии, я понял, что у множества умных людей нет денег.

Возвращаясь к теме глобального потепления, Обама расставляет приоритеты следующим образом: главное — не утонуть, а с остальным мы разберёмся:

если мы справимся с климатическими изменениями, нажмём на тормоза и убережёмся от подъёма уровня Мирового океана на 2 метра, остальное человечество решит само по себе.

И напоследок, дорогой гик, Обама тоже разделяет твоё нетерпение в ожидании космических прорывов:

И поскольку это проблемы первопроходцев, я хочу упомянуть напоследок, что остаюсь большим фанатом космоса и думаю о том, как перейти на новый этап космических странствий — на что мы явно тратим недостаточно. Больших успехов достиг частный сектор, потому что вкладывался в разные «Какого чёрта, почему бы и нет?» разные рискованные и безумные предприятия, где не ступала нога государства. И мы до сих пор, говоря о космических путешествиях, рассуждаем категориями тех же химических реакций, запустивших в полёт первые «Аполлоны». Полвека спустя уже кажется — уж не знаю, как там обстоят дела с варп-двигателями — что должны уже случиться какие-то прорывы.

Конечно, разговор с аудиторией уже гиковского издания — это ещё не прорыв в сознании массового слушателя, но всё же душу греет то, что к будущему готовятся не только гики, фантасты, учёные и алармисты, но и мировые политики тоже. А как иначе, если даже в XXI веке люди продолжают бояться прививок и ГМО, предпочитая старые добрые младенческие смерти и потравленные пестицидами овощи. Достижения науки мало делать — их надо объяснять:

Приняв правильные решения сейчас, мы подготовимся к тому моменту, когда ИИ станет полноценной частью нашей экономики, чтобы люди приветствовали это, а не противостояли ему.

В общем, конец президентского срока — явно не конец света, и после этой статьи действительно интересно, чем займётся Обама дальше. Такой сильный союзник на стороне сил прогресса точно нам не помешает. И что бы нас в будущем не ждало — «Скайнет» теперь вряд ли подкрадётся незаметно.