В 2014 году один проект от Google выстрелил так, что было слышно аж в Детройте [некогда – «автомобильная столица США» – прим. перев.]. У его новейшего прототипа робомобиля не было ни руля, ни тормозов. Намёк был ясен: будущие автомобили будут полностью автономными, им не нужен будет водитель. А ещё более раздражающим было то, что вместо того, чтобы переделать Prius или Lexus, как Google делал с двумя предыдущими поколениями робомобилей, компания самостоятельно построила кузов для своего нового робомобиля при помощи поставщиков автомобильных запчастей. А что самое удивительное, новая машина изначально родилась опытным водителем, у неё было уже 1,1 млн км опыта, извлечённого из мозга предыдущих прототипов. На сегодня у робомобилей есть ещё несколько лет практики, коллективный пробег всего флота превышает 2,1 млн км – это эквивалент человека, ездившего по 24 000 км в год в течение 90 лет.

Автомобильные компании в ответ на это вливают миллиарды в разработку ПО, а эпицентр автомобильных инноваций переехал из Детройта в Кремниевую долину. Если бы автопроизводители могли влиять на то, как осуществляется переход на робомобили, они бы сделали его постепенным. На первом шаге происходила бы обкатка технологий помощи водителю. На втором появилось бы несколько люксовых моделей с ограниченной возможностью автономного передвижения в особых ситуациях, скорее всего, по шоссе. На третьем шаге эти ограниченные возможности просочились бы до автомобилей подешевле.

Консалтинговая фирма Deloitte описывает такой постепенный подход как инкрементальный, «при котором автопроизводители вкладываются в новые технологии – к примеру, антиблокировочная тормозная система, электронная стабилизация, страховочные камеры, телематика – для дорогих линеек автомобилей, а затем идут сверху вниз, когда начинает работать экономия на масштабе. Такой осторожный подход, хотя и привлекателен, может быть неправильным. Медленное приближение к автономности путём постепенного добавления технологий безопасности, работающих под управлением компьютера, помогающих человеку рулить, тормозить и разгоняться, может стать небезопасной стратегией в долгосрочной перспективе – как с точки зрения человеческой жизни, так и с точки зрения автоиндустрии.

Одна из причин, по которой автомобильные компании предпочитают постепенный подход – это помогает сохранять контроль над индустрией. Робомобилям нужна умная ОС, воспринимающая окружение автомобиля, осмысливающая поступающий поток данных и реагирующая соответствующим образом. Создание ПО, способного работать как ИИ – в частности, работать с искусственным восприятием – требует опытного персонала и определённого интеллектуального багажа. У автопроизводителей, прекрасно наловчившихся создавать сложные механические системы, не хватает нужного персонала, культуры и опыта, чтобы эффективно углубиться в густую чащу исследований ИИ. А Google уже там.

Робомобили привносят в автоиндустрию неопределённость. За последнее столетие продавать машины напрямую клиентам было выгодно. Но если робомобили позволят потребителям оплачивать поездки, а не покупать автомобили, то бизнес по продаже универсальных автомобилей транспортным компаниям, сдающим в аренду роботакси, может быть уже не таким прибыльным. Если автопроизводителям придётся работать вместе с разработчиками ПО над созданием робомобилей, такое партнёрство может закончиться тем, что первые получат не такой большой кусок пирога.

Объём денег, о которых идёт речь, растёт как банк в игре в покер, тянущейся всю ночь. Бывший профессор Мичиганского университета и исполнительный директор GM Ларри Бёрнс поясняет, что в 4,8 триллионах километров, которые люди проезжают каждый год (только в США), скрыта золотая жила. Он говорит: „Если тот, кто успеет первым, получит 10% с прибыли с 4,8 трлн км каждый год и будет делать по 10 центов с мили, то его ежегодная прибыль составит $30 млрд – это сравнимо с жирными годами Apple и ExxonMobil“.

Автопроизводители и Google – это гигантские танкеры, которые, угрожая столкнуться, медленно приближаются к общему пункту назначения: выжать побольше прибыли со следующего поколения робомобилей. Автопроизводители предпочитают эволюционный подход, в котором модули, помогающие водителю, разрабатываются до тех пор, пока они не смогут брать контроль над ездой на большие периоды времени. Google, наоборот, планирует резкий скачок в полную автономность.

Не только автопроизводители предпочитают постепенный подход. Министерство транспорта США и Сообщество автомобильных инженеров (SAE) уже разработали свои планы по пути к автономности. Их этапы немного отличаются, но общего в них то, что лучший способ развития – последовательность из постепенных, линейных шагов, когда система „помощи вождения“ временно берёт на себя управление авто, но быстро отдаёт его назад человеку, как только возникает неприятная ситуация.

Мы не согласны с идеей о том, что постепенный переход – это лучший способ действия. По многим причинам люди и роботы не должны сменять друг друга за рулём. Множество экспертов, тем не менее, считают, что оптимальная модель – это разделение контроля над машиной между человеком и ПО, что водитель должен оставаться хозяином, а ПО – слугой. ПО, основанное на парадигме, в которой люди и машины работают в связке, известна инженерам, как Human-in-the-loop (HITL) – „участие в процессе человека“. Во многих ситуациях совместная работа человека и машины действительно приводит к прекрасным результатам. Опытные люди-хирурги используют роботизированные манипуляторы и достигают нечеловеческой точности при операциях. HITL-программы используются на современных коммерческих самолётах, так же, как и в промышленных, и военных приложениях.

Аргументы в пользу сохранения человека в процессе убедительны. Очень привлекательна мечта о сложной комбинации лучших возможностей человека с лучшими возможностями машины; она напоминает оптимизационную головоломку по ручному подбору профессиональных игроков в американский футбол для создания команды мечты. Машины обладают высокой точностью, не устают и умеют анализировать. Машины отлично обнаруживают закономерности, проводят вычисления и измерения. Люди же прекрасно умеют делать выводы, связывать на первый взгляд случайные объекты или события и учиться на опыте.

В теории, если скомбинировать человека с ИИ, в результате можно получить внимательного, чуткого и чрезвычайно опытного водителя. Ведь преимущество подхода HITL к автоматизации в том, что можно соединить сильные стороны людей и машин.

В реальности же HITL-ПО сможет работать с робомобилями, если только каждая из сторон, люди и софт, чётко и последовательно разделят ответственность. К сожалению, автомобильной индустрией и чиновниками из минтранспорта была предложена не модель чёткого исполнения этих ответственностей. Вместо этого они предлагают оставить человека в процессе, но при этом у него будут непонятный и меняющийся круг ответственностей.

В центре стратегии плавного перехода находится предположение, что в случае некоей неожиданной ситуации звуковой сигнал или вибрация оповестят человека о том, что ему надлежит быстро пересесть на место водителя и справиться с проблемой. Постепенный путь к полной автоматизации может казаться разумным и безопасным. Но на практике постепенный переход от частичной к полной автоматизации вождения будет опасным.

В некоторых ситуациях машины могут успешно работать вместе с людьми, но только не при вождении. Главная причина, по которой схема HITL не подходит к вождению состоит в том, что вождение – процесс очень скучный и утомительный. Нудные действия люди с удовольствием отдают машинам, и при этом охотно снимают с себя ответственность за них.

Когда я участвовал в тренировке моряков на флоте, я выучил одну из ключевых доктрин хорошего управления: никогда не разделять критические задачи между двумя людьми. Это классическая ошибка управления, известная, как „расщеплённая ответственность“ [split responsibility]. Проблема с разделением ответственности в том, что каждый человек из участвующих в выполнении задачи считает, что он спокойно может переложить эту задачу на другого. Но если никто из них не позаботиться о её выполнении, миссия проваливается. Если люди и машины будут разделять ответственность за вождение автомобиля, результаты могут быть катастрофическими.

Душераздирающий пример расщеплённой ответственности между человеком и машиной – рейс 447 Air France, который в 2009 году

упал в Атлантический океан

. 228 человек, находившихся на борту, погибли. Анализ чёрного ящика самолёта показал, что причиной катастрофы стал не терроризм или отказ механики. Неудачно прошла передача управления от автопилота к команде пилотов.

В полёте приборы, необходимые для работы автопилота, промёрзли и внезапно автопилот отключился. Команда пилотов, сбитая с толку и давно не практиковавшаяся, вдруг встала перед необходимостью управлять тем, что должно было быть рутинным полётом. Пилоты, внезапно столкнувшиеся с ответственностью, совершили несколько катастрофических ошибок, что и привело к падению самолёта в море.

Осенью 2012 года нескольким сотрудникам Google разрешили взять автономные Lexus'ы и прокатиться по шоссе до работы. Идея была в том, чтобы человек провёл Lexus до шоссе, вышел на дорогу, и, встав в полосу, включил бы автопилот. Каждого из сотрудников предупредили, что технология находится на раннем этапе, и они должны всё время быть внимательными. Каждую машину оснастили видеокамерой, постоянно снимавшей человека в салоне.

Сотрудники отзывались о робомобилях строго позитивно. Все описали преимущества того, что им не надо было бороться с движением на дорогах в час пик, и они могли прибыть домой свежими и отдохнувшими, чтобы больше времени провести с семьёй. Но проблемы возникли после того, как инженеры просмотрели видео из салонов. Один из сотрудников полностью отвернулся от руля, чтобы поискать зарядку для телефона на заднем сиденье. Другие отвлекались от вождения и расслаблялись, наслаждаясь свободными моментами.

В отчёте Google описывалась ситуация разделения внимания, и её назвали „предвзятостью автоматизации“. „Мы видели, как работает человеческая природа: люди очень быстро начинают доверять технологии, после того, как увидят её за работой. В результате им очень сложно участвовать в вождении, когда их поощряют на то, чтобы отвлечься от этого и расслабиться“.

Убеждение Google в отсутствии компромисса – в том, что люди не должны делить управление с машинами – звучит рискованно, но это, на самом деле, наиболее благоразумный путь развития с точки зрения безопасности. Автоматизация может навредить водителю двумя способами: во-первых, предложить ему заниматься такими вещами, которые отвлекают его от дороги – например, чтением или просмотром видео; во-вторых, нарушить его ситуационную осведомлённость, то есть возможность воспринимать критические факторы окружения и быстро и адекватно реагировать на них. Если мы рассмотрим водителя с отвлечённым вниманием, не знающего, что происходит вне автомобиля, станет ясно, почему расщепление ответственности за вождение – это такая ужасная идея.

Исследование в Виргинском технологическом университете количественно оценило искушение людей, возникающее, когда технологии предлагают им облегчить выполнение нудной задачи. Исследователи испытывали 12 водителей на тестовом треке. В каждом автомобиле было два вида ПО, помогающих водителю: одно центрировало автомобиль в полосе, другое управляло тормозами и рулением – то, что называется адаптивный круиз-контроль. Целью исследования было измерить реакцию людей на технологии, берущие на себя удержание автомобиля в полосе, поддержку скорости и управление тормозами. Для этого в каждом автомобиле был установлен набор устройств, собирающих данные и записывающих происходящее.

Исследователи наняли 12 человек от 25 до 34 лет из обычных жителей Детройта, предложив по $80 за участие в проекте. Водителей просили сделать вид, что они едут на дальнее расстояние, и не только поощряли их брать с собой мобильные телефоны, но и предоставляли им выбор печатных материалов, еды, напитков и развлекательных устройств. Водителям объяснили, что с каждым из них поедет один из членов исследовательской команды. Им сказали, что у их пассажира будет некое „домашнее задание“, которым он будет занят в течение поездки, так что большую часть времени он будет смотреть DVD.

12 испытуемых вели машину на тестовом треке, а их реакции и действия измерялись и записывались. Исследователи ставили перед собой цели измерить как искушение отвлекаться на посторонние занятия типа еды, чтения, или просмотр видео, так и степень отвлечения внимания водителя от дороги в случае, когда ПО возьмёт на себя большую часть обязанностей. Иначе говоря, исследователи проверяли, подвигнут ли технологии автоматического вождения водителей на небезопасные действия вроде отвлечения от процесса вождения, неподходящие для вождения занятия, потерю полноты восприятия происходящего и возможности распознавать критические факторы в их окружении.

Оказалось, что большинство водителей в присутствии технологии автоматического вождения с радостью пускались во все три типа нарушений за рулём. „Домашняя работа“, которой якобы занимался пассажир-исследователь, вместе с возможностями адаптивного круиз-контроля и системой удержания полосы усыпили внимание водителей, и они почувствовали, что могут без вреда для себя отвлечься от происходящего на дороге. За три часа испытания, во время которых были использованы различные системы автоматического вождения, большинство водителей занимались отвлечёнными вещами – обычно они ели, доставали что-либо с заднего сиденья, разговаривали по мобиле и отправляли сообщения.

Особенно расслабляла водителей система удержания автомобиля в полосе. Когда её включили, то целых 58% испытуемых смотрели во время движения DVD. 25% водителей занимались чтением, что увеличивало риск аварии в 3,4 раза.

Показатели визуального внимания водителей были не лучше. Внимание было рассеянным, они не смотрели на дорогу почти 33% всего времени за рулём. Что ещё более опасно, их взгляд отвлекался от дороги надолго, то есть, более чем на 2 секунды, в среднем 3325 раз за время трёхчасовой поездки. Правда, такие долгие отвлечения занимали всего 8% времени испытания.

Данное исследование, конечно, можно считать лишь первым шагом. 12 человек – небольшая контрольная группа, необходимо проводить больше исследований. Одно из интересных открытий состояло в том, что хотя большинство водителей с удовольствием ели, смотрели кино, читали или отправляли сообщения за рулём, некоторые смогли противостоять этому искушению. Как заключили исследователи, „работа показала наличие больших индивидуальных различий в вопросе отвлечения на посторонние занятия, что может означать неоднородность влияния автономных систем вождения на разных водителей“.

В другом исследовании, проводимом Пенсильванским университетом, исследователи побеседовали с 30 подростками по поводу использования мобильных телефонов во время вождения. Выяснилось, что, несмотря на осознание опасности отправки сообщений во время вождения, подростки делали это всё равно. Подростки, полностью отрицавшие использование телефонов за рулём, сознались, что отправляют сообщения, оказавшись на светофоре в ожидании зелёного сигнала. Также у подростков оказалась своя система определения того, что значит „отправка сообщений за рулём“. К примеру, они заявили, что чтение Twitter за рулём не относится к работе с сообщениями. То же они заявили про фотографирование за рулём.

Рассеянное внимание – это один из рисков. Другой риск разделения ответственности за вождение между людьми и софтом состоит в том, что навыки вождения у людей будут деградировать от редкого использования. Водители будут пользоваться каждым шансом расслабиться за рулём точно так же, как сделали пилоты рейса AF447. А если человек не водил машину несколько недель, месяцев или лет, а затем ему внезапно потребуется в нештатной ситуации взять управление на себя, он не только не будет иметь представления о происходящем снаружи, но и обнаружит, что его водительские навыки заржавели.

Искушение заниматься посторонними делами или убирать руки с руля при расщеплении ответственности – это настолько серьёзные опасности, что Google решил вообще пропустить этап постепенного перехода к автономному вождению. Отчёт компании от октября 2015 года заканчивался неожиданным заключением: на основе ранних экспериментов с частично автономными системами была выработана стратегия фокусировки на достижении исключительно полной автоматизации. Там говорится следующее: „В итоге тесты привели нас к необходимости разработки средств передвижения, способных самостоятельно двигаться из пункта А в пункт Б без вмешательства человека. Все думают, что тяжело сделать машину, ведущую саму себя. И это так. Но нам кажется, что настолько же тяжело заставить людей сохранять внимание, если они устали, им скучно, а технология говорит им: ‹Не волнуйтесь, у меня всё под контролем… Пока что…›“

На момент написания статьи робомобили Google попали в 17 незначительных ДТП и одно столкновение с автобусом на малой скорости. В 17-и происшествиях виновником оказались водители других автомобилей. 14 февраля 2016 года машина Google попала в первое серьёзное ДТП, „соприкоснувшись“ с бортом городского автобуса. И в отличие от предыдущих случаев, эта ошибка произошла из-за ПО робомобиля – оно неправильно предсказало, что если машина поедет дальше, то автобус остановится.

За исключением случая с автобусом, все остальные происшествия произошли, как это ни забавно, из-за того, что робомобиль слишком хорошо водит. Хорошо запрограммированное средство передвижения чётко соблюдает все правила, что сбивает с толку менее законопослушных людей, привыкших следовать им не так буквально. Типичными примерами такого ДТП можно назвать случаи, когда робомобиль пытался встроиться в поток на шоссе или повернуть направо на загруженном перекрёстке, а водители, не осознавая точное соблюдение машиной разметки и скоростных ограничений, въезжали в робомобили.

Пока что ни одно ДТП не привело к травмам. В будущем лучшим способом избежать столкновений будет научить робомобили водить чуть более по-человечески, более беззаботно и немного незаконно. В долгосрочной перспективе проще всего будет решить проблему с водителями через замену их на компьютер, который никогда не отвлекается от дороги.

Автопроизводители и IT-гиганты собираются за столом, чтобы сыграть свою игру в автомобильный покер с высокими ставками. Пока неизвестно, кому как ляжет карта. Если чиновники продавят закон о необходимости участия человека в вождении, HITL, победят автопроизводители, сохраняя контроль над автомобильной индустрией. Если же закон разрешит или даже потребует от робомобилей полную автономию, победят IT-компании.

У Google есть несколько серьёзных преимуществ – это безусловный лидер в области цифровых карт и глубинного обучения. С точки зрения бизнес-стратегии, отсутствие у Google зацепок в автомобильной индустрии может оказаться её ключевым преимуществом. Аналитик Кевин Рут пишет: „В отличие от OEM, над Google не нависает угроза потери прибыли из-за пропуска промежуточных шагов в разработке, они сразу взялись за создание полностью автономных робомобилей, и у них, кажется, есть серьёзная фора“. Добавьте к этому сильное желание Google создать новый канал прибыли, не зависящий от продажи интернет-рекламы – на текущий момент основного источника доходов компании.

Ясно одно: вне зависимости от того, как произойдёт переход к робомобилям, автопроизводителям придётся приобрести новые способности. Чтобы остаться среди игроков в новой индустрии по продаже робомобилей, автопроизводителям нужно будет освоить трудное искусство создания ИИ – а эта задача остаётся недоступной для лучших специалистов по робототехнике уже много десятилетий.