Работая над искусственным интеллектом, создатели технологии нейронных сетей в той или иной мере опирались на устройство человеческого мозга. Если предположить, что нейрон может выполнять логические операции, то машину можно научить мыслить логически, причем эффективнее, чем человек. И хотя ИИ смог обойти человека в некоторых очень узких задачах, со здравым смыслом у него все еще очень плохо.

Нейробиолог Кевин Митчелл пишет в своей книге «Free Agents: How Evolution Gave Us Free Will», что если создатели ИИ хотят наделить его разумом, то им нужно дать ему тело и свободу воли.

В последние годы мы наблюдаем прогресс в области различных областях ИИ: распознавания изображений и речи, прогнозирования текста, перевода с одного языка на другой. Все эти достижения стали возможны в основном благодаря глубокому обучению, вдохновленному многоуровневой архитектурой коры головного мозга, пишет Big Think. Обученные на примерах нейросети получили способность искать закономерности в беспорядочных данных и создавать новые данные: тексты, видео, компьютерный код. Они научились вести беседу так, что их даже принимают за разумных существ.

И в то же время эти ИИ, в отличие от людей, легко сбить с толку. Достигнув сверхчеловеческих успехов в одних областях, они остаются слаборазвитыми в других, которые людям даются легко. Они не взаимодействуют с миром вокруг, не понимают причинных связей и не знают, что предпринять, если оказались в неизвестной ситуации. То есть не умеют всего того, что хорошо умеют делать люди и животные.

Эти ограничения вырастают из крайне узкой специализации современных систем ИИ. Они обучены выполнять определенные задачи, но при попытке обобщения впадают в ступор. Таким образом, перед создателями универсального ИИ стоит задача научить машину генерализировать знание.

Другой необходимый аспект универсального ИИ, по мнению Митчелла, это возможность свободно взаимодействовать с окружающим миром. Живые организмы не имеют роскоши перерабатывать огромные массивы данных — они учатся на своих ошибках и вынуждены вырабатывать в себе способность выводить причинно-следственные связи из ограниченного опыта. Понимание законов причинности происходит не в результате пассивного наблюдения. Гипотезы должны проходить проверку практикой. Сознание живых существ есть награда за опасный труд.

Универсальный искусственный интеллект не возникнет из пассивной переработки данных. Ему понадобится выйти в мир и на своем опыте узнать, какую реакцию вызывают различные действия. А значит, у такой системы должно быть какое-то тело и свобода воли.