«Любая достаточно развитая технология», — писал серый кардинал научной фантастики Артур Кларк, — «неотличима от магии». Эта цитата, которую без устали цитируют продвигающие технологию фанаты, пожалуй, стала самым разрушительным высказыванием из всех, что сделал Кларк, поскольку она поощряет наше гипнотическое изумление перед технологиями и отключает критическое мышление. Поскольку, когда речь идёт о «магии», это по определению будет что-то необъяснимое. Нет смысла задавать вопросы об этом; просто принимайте его, как оно есть, расслабьтесь и приглушите недоверие.

Сейчас больше всего магического мышления притягивает к себе искусственный интеллект (ИИ). Энтузиасты описывают его так, будто это самое важное изобретение со времён колеса. Пессимисты рассматривают его как экзистенциальную угрозу человечеству: первая «сверхумная» машина, которую мы создадим, станет началом конца человечества; единственный вопрос, будут ли машины содержать нас в качестве домашних животных.

В обоих случаях проглядывается обратная зависимость между силой убеждённости людей в возможностях ИИ и их знаниями об этой технологии. Эксперты проявляют сдержанный оптимизм, а горячие сторонники находятся в блаженном неведении по поводу того, что превозносимый ими ИИ на самом деле представляет собой довольно приземлённую комбинацию из машинного обучения (МО) и больших данных.

Машинное обучение использует статистические техники, чтобы наделять машины способностью «обучаться» – то есть, использовать данные для постоянного улучшения выполнения определённой задачи без необходимости предварительного программирования. Система МИ – это куча алгоритмов, принимающих на вход поток данных, и выдающая на выходе ссылки, корреляции, рекомендации, и, вероятно, даже решения. Эта технология используется уже повсеместно: практически любое наше взаимодействие с Google, Amazon, Facebook, Netflix, Spotify, и так далее, происходит при посредничестве системам МИ. Дошло до того, что один из выдающихся гуру ИИ, Эндрю Ын, сравнивает МО с электричеством.

Многим директорам компаний машина, способная узнать об их клиентах больше, чем они сами смогут когда-либо, кажется волшебной. Представьте себе тот момент, когда Walmart обнаружил, что среди всех вещей, которые потребители в США запасли после ураганного предупреждения, кроме обычного набора, оказались пиво и земляничное печенье Поп-тартс. И, неизбежно, энтузиазм корпораций по поводу волшебной технологии вскоре вышел за пределы закупок для супермаркетов и передался правительству. МО быстро проникло в предсказания загруженности дорог, предсказательного поддержания правопорядка (МО помогает помечать районы, где преступления «скорее всего» произойдут), решения по поводу условно-досрочного освобождения, и так далее. Среди оправданий этого безумного роста – повышение эффективности, улучшения контроля над соблюдением закона, более «объективное» принятие решений, и, естественно, более отзывчивые коммунальные услуги.

Этот постепенный сдвиг фокуса не прошёл незамеченным. Критики отмечают, что старый компьютерный афоризм «мусор на входе, мусор на выходе» применим и к МО. Если данные, на которых «учится» машина, будут предвзятыми, то её выход будет отражать эту предвзятость. Это можно обобщить; возможно, мы создали технологию, которая – пусть и прекрасно справляется с рекомендациями того, какой фильм вам посмотреть – может превратиться в фактор, усиливающий социальное, экономическое и культурное неравенство.

При всей этой социополитической критике МО, никто не подвергал сомнению технологическую работоспособность самой идеи – то есть, считалось, что любые неправильные решения, которые она выдаёт, зависят исключительно от недостатков во входных данных. Но теперь и это успокаивающее предположение оказывается довольно спорным. На недавней конференции NIPS (системы нейронной обработки информации) – большом ежегодном собрании экспертов по МО – Али Рахими, одна из признанных звёзд этой области, швырнул в аудиторию интеллектуальную гранату. В примечательной лекции он сравнил МО со средневековой алхимией. Обе области знания оказались рабочими, до определённого уровня – алхимики придумали металлургию и изготовление стекла; исследователи МО создали машины, способные побеждать людей в го и определять объекты по картинке. Но так же, как алхимии недоставало научной основы, так её недостаёт и МО, по словам Рахими. Он утверждает, что исследователи часто не могут объяснить принципов работы их математических моделей – у них нет чёткого и подробного понимания их инструментов, и в этом смысле они работают в роли алхимиков, а не учёных.

Имеет ли это значение? Определённо да. Как говорит Рахими: «Мы создаём системы, управляющие здравоохранением и служащие посредниками в гражданских делах. Мы будем влиять на выборы. Мне хотелось бы жить в обществе, системы которого построены на проверяемом, строгом, исчерпывающем знании, а не на алхимии».

Мне тоже. На основе электричества мы создали то, что любим называть цивилизацией. Но, по крайней мере, мы понимали, почему и как оно работает. Если Рахими прав, то в случае с ИИ мы пока и близко к этому не подошли. Так что давайте прекратим думать об этом магически.