Автор оригинала: Kevin Hartnett. Искусственный интеллект во многом обязан своими достижениями Джуде Перлу. В 1980-х он руководил работами, которые позволили машинам развить способности к вероятностному рассуждению. Сегодня Джуда Перл — один из самых ярых критиков в этой области. В своей последней книге «Почему? Новая наука о причинно-следственной связи» (англ. The Book of Why)? он утверждает, что [настоящему] искусственному интеллекту препятствует неполное понимание того, что на самом деле представляет собой интеллект.

За ответами — к старту флагманского курса по Data Science — приглашаем под кат.

Три десятилетия назад главной задачей исследований в области искусственного интеллекта было программирование машин на связь потенциальной причины с множеством наблюдаемых условий. Перл выяснил, как это сделать с помощью схемы, называемой байесовскими сетями. К примеру, байесовские сети позволяют машинам определить, что, если у пациента, вернувшегося из Африки, жар и ломота в теле, то самое вероятное объяснение этому — малярия. В 2011 году Перл получил премию Тьюринга, высшую награду в области компьютерных наук, что в значительной степени связано с этой работой.

Но, по мнению Перла, сфера искусственного интеллекта погрязла в вероятностных связях. В наши дни заголовки пестрят сообщениями о последних прорывах в области машинного обучения и нейросетей. Мы читаем о компьютерах, которые осваивают древние игры и управлять автомобилями. Перл не слишком-то потрясен этим. По его мнению, современное состояние искусственного интеллекта — это всего лишь усовершенствованная версия того, что машины могли делать уже поколение назад: находить скрытые закономерности в большом наборе данных. «За всеми впечатляющими достижениями глубокого обучения стоит лишь подгонка кривых», — заявил он недавно.

В своей новой книге Перл, которому сейчас 81 год, излагает свое видение того, как будут мыслить по-настоящему разумные машины. Ключевой, по его мнению, момент — замена рассуждений по ассоциативному принципу на рассуждения по принципу причинно-следственной связи. Вместо того чтобы просто соотнести лихорадку и малярию, машины должны уметь рассуждать о том, что малярия вызывает лихорадку. Как только такая причинно-следственная система будет создана, машины смогут задавать контрфактические вопросы — спрашивать, как изменятся причинно-следственные связи в случае какого-либо вмешательства, что Перл считает краеугольным камнем научного мышления. Перл также предлагает формальный язык, который сделает возможным такое мышление, — версию байесовской структуры XXI века, позволяющую машинам мыслить вероятностно.

Перл ожидает, что причинно-следственные рассуждения способны наделить машины интеллектом человеческого уровня. Они смогут эффективнее общаться с людьми и даже, как он объясняет, обретут статус существ с чертами морали, свободой воли и способностью причинять зло. Сотрудники журнала Quanta Magazine побеседовали с Перлом на недавней конференции в Сан-Диего, а затем взяли у него повторное интервью по телефону. Ниже приводится отредактированная и сжатая версия этих бесед.