Быстрое развитие технологий НБИК — нанотехнологий, биотехнологий, информационных технологий и когнитивных наук — порождает возможности, которые уже давно являются предметом научной фантастики. Болезнь, старение, даже смерть — всем этим человеческим реалиям стремятся положить конец вышеперечисленные направления. Они могут позволить нам наслаждаться «морфологической свободой» — мы могли бы принимать новые формы с помощью протезирования или генной инженерией. Или расширить наши познавательные способности. Мы могли бы использовать нейрокомпьютерные интерфейсы, чтобы связаться с продвинутым искусственным интеллектом (ИИ).

Нанороботы могли бы бродить по нашему кровотоку, наблюдая за нашим здоровьем и влияя на наши эмоциональные склонности, радости и прочие увлечения. Достижения в одной области часто открывают новые возможности в других, и эта «конвергенция» может привести к радикальным изменениям нашего мира в ближайшем будущем.

Трансгуманизм — это идея о том, что люди должны превзойти свое нынешнее естественное состояние и ограничения с помощью технологий, принять контролируемую эволюцию. Если рассматривать историю технологического прогресса как попытку человечества укротить природу, чтобы лучше удовлетворить свои нужды, трансгуманизм будет логичным продолжением: пересмотреть природу человечества, чтобы лучше удовлетворить его фантазии.

Как говорит Дэвид Пирс, ведущий сторонник трансгуманизма и соучредитель Humanity+:

«Если мы хотим жить в раю, нам придется сконструировать его самостоятельно для себя. Если мы хотим вечной жизни, нам придется переписать наш усеянный ошибками генетический код и стать богоподобными. Только высокотехнологичные решения смогут избавить мир от страданий. Одного желания недостаточно».

Но есть и более темная сторона у наивной веры, которую Пирс и его сторонники сохраняют в трансгуманизм. Совершенно непонятно, когда мы станем тем самым transhuman, сверхлюдьми, трансчеловеком. Вероятнее всего, технологии переплетутся с нами и незаметно сольются с человеческим телом. Технологии уже давно считаются продолжением нашего «я». Многие аспекты нашего социального мира, не в последнюю очередь наши финансовые системы, в значительной степени опираются на работу машин. Очень многое предстоит узнать из процесса эволюции гибридных систем человек — машина и многому можно научиться.

Однако утопический язык и ожидания, которые окружают и формируют наше понимание этого развития, вызывают вопросы. Глубокие изменения, которые лежат впереди, часто понимаются очень абстрактно, потому что эволюционные «улучшения» кажутся настолько радикальными, что игнорируют реалии существующих социальных условий.

Поэтому трансгуманизм становится своего рода «техно-антропоцентризмом», в котором трансгуманисты зачастую недооценивают сложность наших взаимоотношений с технологиями. Они видят в этом управляемый, податливый инструмент, который, при правильной логике и научном упорстве, можно повернуть в любую сторону. Но ровно в той степени, в которой технологическое развитие зависит и отражает окружающую среду, в которой появляется, в той же степени оно возвращается обратно в культуру и создает новую динамику — зачастую незаметно.

Таким образом, трансгуманизм нужно рассматривать в общем социальном, культурном, политическом и экономическом контексте, чтобы понять, насколько все это этично.

Конкурентная среда

Макс Мор и Наташа Вита-Мор заявляют, что трансгуманизм нам нужен «для включенности, разнообразия и непрерывного уточнения наших знаний». Однако три этих принципа несовместимы с развитием трансформационных технологий в рамках преобладающей системы, из которой они в настоящее время возникают: развитый капитализм.

Одна из проблем заключается в том, что высококонкурентная социальная среда не подразумевает различных способов существования. Вместо этого она требует более эффективного поведения. Взять, к примеру, студентов. Если у некоторых из них будут таблетки, позволяющие им достичь более высоких результатов, смогут ли другие студенты отказаться от них? Это уже сложный вопрос. С каждым годом все больше студентов обращаются к повышающим производительность таблеткам. И если таблетки станут мощнее либо если улучшение будет включать методы генетической инженерии или интрузивных нанотехнологий, которые предложат еще более мощные конкурентные преимущества, что тогда? Отказ от парадигмы улучшающих технологий может привести к социальной или экономической смерти (ведь так работает эволюция), а повсеместный доступ к ней — подтолкнет всех участников к еще большему принятию, вынудит их идти вровень.

Выход за пределы ограничений свидетельствует об освобождении в некоторой форме. Однако здесь заключено побуждение действовать определенным образом. Нам буквально нужно возвыситься над собой, чтобы приспособиться и выжить. Чем экстремальнее трансцендентность, тем глубже будет решение приспособиться и тем сильнее будет императив сделать это.

Системные силы, заставляющие отдельного человека «обновляться», чтобы оставаться конкурентоспособным, также играют и на геополитическом уровне. Одной из сфер, где методы R&D обладают наибольшим трансгуманистическим потенциалом, является оборона. DARPA (американское агентство перспективных оборонных исследований), которое пытается создать «метаболически доминирующих солдат», является очевидным примером того, как интересы отдельной социальной системы могут определить развитие мощнейших трансформационных технологий, которые будут скорее разрушительными, нежели утопическими.

Стремление создать сверхразумный искусственный интеллект среди конкурентных и обозленных друг на друга государств тоже может вылиться в гонку вооружений. Романист Вернор Виндж первым описал сценарий, в котором сверхразумный искусственный интеллект становится «всемогущим оружием». В идеале человечество должно проявлять максимальную осторожность, приступая к разработке настолько мощной и преобразующей инновации.

Серьезное обсуждение разгорелось вокруг создания сверхразумного искусственного интеллекта и наступления «сингулярности» — согласно этой идее, ИИ однажды достигнет уровня, когда быстро начнет перестраивать самого себя, улучшаться и приведет к взрыву интеллекта, который быстро превзойдет человеческий. Футуролог Рэй Курцвейл считает, что это случится к 2029 году. Если мир примет ту форму, которую пожелает мощнейший искусственный интеллект, эволюция может пойти совершенно непредсказуемым путем. Может ли ИИ уничтожить человечество, пожелав произвести максимальное количество скрепок, например?

Также трудно определить хоть какой-нибудь аспект человечества, который нельзя «улучшить», сделав более эффективным в удовлетворении потребностей конкурентной системы. Именно система, следовательно, определяет эволюцию человечества, не принимая во внимание, какие люди или какими они должны быть. Развитый капитализм доказывает свою чрезвычайную динамику через идеологию нравственной и метафизической нейтральности. Философ Майкл Сэндел говорит следующее: рынки не покачивают пальчиками (не запрещают). В развитом капитализме максимизация покупательской способности одного максимизирует процветание другого — следовательно, шопинг можно назвать первичным нравственным императивом индивида.

Философ Боб Доде справедливо предполагает, что именно эта банальная логика рынка и будет преобладать:

«Если биотехнологии и изменили человеческую природу целиком и полностью, в них нет зерна, которое ограничит или направит наши конструкты в ней. И чьи конструкты, вероятнее всего, получат правопреемники постчеловеческих артефактов? Я не сомневаюсь, что в нашей широко капиталистической, потребительской, насыщенной медиа экономике рыночные силы проложат себе путь. Поэтому коммерческий императив будет истинным архитектором будущего человека».

Независимо от того, будет эволюционный прогресс определяться сверхразумным ИИ или развитым капитализмом, мы будем пытаться соответствовать вечной трансцендентности, которая будет только делать нас более эффективными в удовлетворении потребностей мощнейшей системы. Конечной точкой, конечно, будет состояние, далекое от человеческого, — но очень эффективное. Это будет технологическая сущность, извлеченная из человечества, но не обязательно сохраняющая ценности современного человека. Способность служить системе наиболее эффективно станет движущей силой. Это справедливо и для естественной эволюции — технологии не самый простой инструмент, который позволит нам применить инженерию, чтобы выйти из затруднения. Но трансгуманизм может также ускорить и менее желательные аспекты этого процесса.

Информационный авторитаризм

Биоэтик Юлиан Савулеску считает главной причиной необходимости наших улучшений выживание нашего вида. Он говорит, что мы столкнулись с Бермудским треугольником вымирания: радикальная технологическая сила, либеральная демократия и наша нравственная природа. Будучи трансгуманистом, Савулеску превозносит технический прогресс, считая его неизбежным и непреодолимым. Нет, измениться должна либеральная демократия и частично наша нравственная природа.

Неспособность человечества решать глобальные проблемы становится все более очевидной. Но Савулеску не рассматривает наши моральные недостатки в их культурном, политическом и экономическом контексте; вместо этого он полагает, что решение лежит в нашей биологической составляющей.

Однако как будут распространяться, предписываться и потенциально принудительно внедряться технологии, повышающие нравственность, в отношении моральных недостатков, которые они стремятся «вылечить»? Вероятно, это будет проходить с подачи силовых структур, которые вполне могут сами нести большую ответственность за эти недостатки. Савулеску быстро обрисовал, насколько относительным и спорным может быть понятие «нравственности»:

«Нам придется отойти от нашей приверженности максимальной защиты конфиденциальности. Мы наблюдаем усиление надзора за отдельными лицами, и это необходимо, если мы хотим предотвратить угрозы, которые представляют собой лица с антисоциальным расстройством личности, фанатизмом».

Такое наблюдение позволяет корпорациям и правительствам получать доступ и использовать чрезвычайно ценную информацию. Интернет-пионер Джарон Ланье объясняет:

«Клады досье по частной жизни и личностям обычных людей, собранные по цифровым сетям, упакованы в новую частную форму элитных денег… Это новый вид безопасности, доступный только богатым, и ценность его, естественно, растет. Все это становится недоступным для обычных людей.

Что важно, этот барьер также невидим для большинства людей. Его влияние выходит за пределы обычной экономической системы и устремляется к элитам, сильно меняя само понятие свободы, потому что авторитет власти как более эффективен, так и рассеян.

Понятие Фуко о том, что мы живем в паноптическом обществе, в котором чувство непрерывного наблюдения за собой воспитывает дисциплину, теперь растянуто до такой степени, что сегодняшние неустанные машины называют «суперпаноптиконом». Знания и информация, которые будут развиваться силами трансгуманистических технологий, могут укрепить существующие силовые структуры, которые зацементируют присущую системе логику, в которой возникают знания».

Отчасти это проявляется в тенденции алгоритмов к расовому и гендерному уклону, что уже отражает наши существующие социальные предвзятости. Информационные технологии имеют тенденцию интерпретировать мир определенными способами: они отдают предпочтение информации, которая легко поддается измерению, например ВВП, вместо неквантитативной информации вроде человеческого счастья или благополучия. Поскольку инвазивные технологии предоставляют все более подробные данные о нас, эти данные могут в строгом смысли прийти к определению мира — и непостижимая пока для них информация может остаться не только в пределах человеческого понимания.

Системное обесчеловечение

Существующее неравенство, несомненно, будет увеличено, благодаря внедрению высокоэффективных психофармацевтических препаратов, генетической модификации, сверхинтеллекта, нейрокомпьютерных интерфейсов, нанотехнологий, роботизированных протезов и возможного продления жизни. Все они принципиально неэгалитарны, основаны на понятии неограниченности, а не стандартного уровня физического и психического благополучия, которое мы привыкли подразумевать в сфере здравоохранения. Нелегко понять, как сделать так, чтобы эти возможности стали доступны всем.

Социолог Саския Сассен говорит о «новой логике изгнания», которая затрагивает «патологии современного глобального капитализма». Изгнанники включают более 60 000 мигрантов, которые погибли в результате смертельных путешествий за последние 20 лет, а также жертвы расового перекоса и растущего числа заключенных.

В Великобритании насчитывается 30 000 человек, смерти которых в 2015 году связали с сокращением расходов на социальную помощь и здравоохранение, а также с теми, кто погиб в горящей башне Grenfell Tower. Можно сказать, что их смерть была результатом систематической маргинализации.

Наряду с этим происходит беспрецедентное накопление богатств. Продвинутые экономические и технические достижения изгоняют определенные группы и обеспечивают богатством другие. В то же время, пишет Сассен, они создают туманную бесцельность, локус власти:

«Угнетенные часто поднимались против своих хозяев. Но сегодня угнетенные были в основном изгнаны и выжили на большом расстоянии от своих угнетателей. «Угнетатель» становится сложной системой, объединяющей людей, сети и машины без очевидного центра.
Излишние популяции, удаленные из продуктивных аспектов социального мира, могут быстро увеличиться в ближайшем будущем, поскольку улучшения в сфере ИИ и робототехники потенциально приведут к значительной автоматизации безработицы. Большие общества могут стать продуктивно и экономически излишними. Историк Юваль Ноа Харрари считает, что самым важным вопросом в экономике 21 века станет следующий: что нам делать с лишними людьми?».

Мы вполне могли бы оказаться в ситуации, когда небольшая элита имеет почти полную концентрацию богатства с доступом к самым мощным преобразующим технологиям в мировой истории и избыточной массе людей, не приспособленных к эволюционной среде, в которой они оказались и в которой остаются в полной зависимости от этой элиты. Процесс обесчеловечения нынешних групп изгнанников показывает, что либеральные ценности развитых стран не всегда распространяются на тех, кто не может позволить себе привилегии, принадлежит другой расе, культуре или религии.

В эпоху радикальной власти технологий массы могут даже представлять серьезную угрозу безопасности для элит, которой можно оправдать агрессивные и авторитарные действия.

В своей трансгуманистской книге «Эффективный императив» Стив Фуллер и Вероника Липинска утверждают, что мы обязаны неустанно продолжать научно-технический прогресс, пока не достигнем божественной или бесконечной силы и власти. Они раскрывают принципы, которых потребуют эти прометеевы цели — разрушение и жестокость, и говорят, что «замена природного искусственного — это ключ к эффективной стратегии, и она, вероятнее всего, приведет к долгосрочной экологической деградации Земли».

Масштабы страданий, которые они готовы понести за игру в своем космическом казино, становятся очевидны только после анализа того, что их проект будет значить для отдельных людей.

Проактивный (эффективный) мир не просто будет нормально переносить риск, но и прямо поощрять его, поскольку людям будут предоставляться правовые стимулы для спекулирования их биоэкономическими активами. Рискованная жизнь будет представлять предпринимательство с самим собой в качестве товара. Сторонники такого подхода будут готовы пойти на большие риски ради больших выгод и понести большой ущерб на этом пути.

Прогресс в овердрайве потребует жертв

Экономическая хрупкость, с которой люди вскоре могут столкнуться в результате автоматизированной безработицы, вероятно, окажется чрезвычайно полезной для достижения проактивных целей трансгуманистов. В обществе, в котором большие группы людей будут полагаться на еду по талонам для выживания, рыночные силы определят, что снижение социального обеспечения приведет к тому, что люди будут рисковать больше за меньшую награду, поэтому «проактивисты изобретут государство всеобщего благополучия как средство содействия безопасному принятию рисков», при этом «проактивное государство» будет действовать как венчурный капиталист».

В основе этого лежит устранение основных прав для «Человечества 1.0» (этим термином Фуллер назвал современных, не улучшенных людей) и замена их обязанностями будущего улучшенного Человечества 2.0. Поскольку сам код нашего существа можно и нужно монетизировать, «персональную автономию следует рассматривать как политически лицензированную франшизу, в соответствии с которой люди понимают свои тела как некие участки земли в так называемом генетическом фонде». И действительно, долг, который современный гражданин в развитом государстве должен выплатить в течение своей жизни, означает, что уже когда вы просто живете, «в вас инвестировали как в капитал, от которого ожидается возврат».

Следовательно, социально умирающие массы могут быть вынуждены служить технико-научному сверхпроекту Человечество 2.0, в котором будет использоваться идеология рыночного фундаментализма в его стремлении к постоянному прогрессу и максимальной производительности. Единственное существенное отличие состоит в том, что заявленная цель богоподобных возможностей Человечества 2.0 является открытой, в отличие от неопределенного конца, определяемого бесконечным «прогрессом» рыночной логики, которая у нас есть сейчас.

Новая политика

Некоторые трансгуманисты начинают понимать, что самые серьезные ограничения того, чего могут достичь люди, являются социальными и культурными, а не техническими. Однако слишком часто их взгляд на политику попадает в ту же ловушку, что и их техникоцентричный взгляд на мир. Зачастую они утверждают, что новые политические полюса будут не левыми и правыми, а техноконсервативными или технопрогрессивными (и даже технолибертарианскими и техноскептическими). Между тем Фуллер и Липинска утверждают, что новые политические полюса будут верхним и нижним, а не левым и правым: те, кто хочет править небесами и быть всемогущим, и те, кто хочет сохранить Землю и ее богатое видовое разнообразие. Это ложная дихотомия. Сохранение последнего, вероятнее всего, будет необходимым для достижения первого.

Трансгуманизм и развитый капитализм — это два процесса, которые ставят «прогресс» и «эффективность» выше всего остального. Первый выступает в качестве инструмента власти, а последний — инструмент для извлечения прибыли. Люди становятся сосудами, обслуживающими эти инструменты. Возможности трансчеловека неистово требуют политики с четко определенными и ярко выраженными человеческими ценностями, чтобы обеспечить безопасную среду, в которой эти глубокие изменения будут протекать. Сейчас вопросы социального правосудия и стабильности окружающей среды важны как никогда раньше. Технологии не позволят нам избежать этих вопросов — это не допускает политического нейтралитета. Скорее, наоборот. Это определяет, что наша политика никогда не была важной. Савулеску прав, когда говорит, что грядет эпоха радикальных технологий. И они не исправят нашу нравственность. Они ее отразят.