Этот вопрос волнует многих. Строятся теории с привлечением разных сложных понятий, от магии до квантовой физики. Что если всё проще? В статье размышления о некоторых аспектах естественного и искусственного интеллекта, а также определение того, что такое интеллект.

Модель — это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции.

Вики

Модель имитирует моделируемую систему с некоторой точностью. Чем больше точность, тем больше в модели будет составляющих ее объектов. Информационная модель имеет информационные объекты. При максимальной точности на каждый моделируемый объект системы будет соответствующий ему информационный. То есть будет однозначное отображение (mapping). В дальнейшем под словом «модель» я буду подразумевать именно отображение одних объектов в другие, заданное соответствие реального и информационного.

Информационная система — это система для обработки информации. Информация некоторым образом поступает на вход информационной системы. Чтобы правильно ее обрабатывать, система имеет информационную модель.

Откуда поступает информация? Из какого-то внешнего источника. Я называю его «реальность».

Реальность — это всё, что находится вне информационной системы.

Итак, чтобы взаимодействовать с реальностью, информационная система должна иметь некоторую модель этой реальности. На каждый реальный объект должен быть соответствующий ему информационный, то есть модель этого объекта. Другая информационная система — это тоже реальный объект. Соответственно, если мы хотим с ней как-то взаимодействовать, для нее тоже нужна модель.

Необходимость такой модели хорошо заметна при разработке API. На сервере некая структура на выходе, на клиенте такая же структура на входе. В PHP и в JS одинаковые классы. Это не избыточность, это моделирование одной системы в другой.

Интеллект

Естественный интеллект — это тоже информационная система. У него есть датчики, которые дают входящую информацию. На основе этой информации он строит модель того, что происходит вне этой информационной системы, и на основе модели принимает решения о действиях. Таким образом, мы можем дать определение того, что такое интеллект.

Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.

Компьютерная программа это тоже информационная система. Обладает ли она интеллектом? Нет, потому что модель в программу закладывает программист. Рассмотрим например программу для разметки жесткого диска. Информация о возможных форматах, порядок выполнения команд, коды ответов — это все заложено в исходном коде. В программе есть модель жесткого диска, она обновляется при получении ответов на команды, но программа ее не строит, не может ее изменить.

Искусственный интеллект должен строить правильную модель реальности. В том числе, он должен правильно на нее реагировать. Как минимум так же, как человек. Во-первых, это обратная связь для нас, по которой мы можем прийти к выводу, что интеллект у системы есть. Это можно проверить в отладчике, но надо знать, что там должно быть. Во-вторых, потому что одна из целей это выполнение деятельности человека в некоторых задачах. Все животные так или иначе реагируют на реальность. Поэтому в отношении них нельзя говорить о том, есть интеллект или нет интеллекта. Можно говорить о том, больше его или меньше, достаточно ли его для определенного вида задач, для построения определенных моделей.

У одноклеточных практически нет интеллекта, потому что нет элементов, которые хранят и обрабатывают информацию об окружающей среде. Есть только химические взаимодействия, которые позволяют им функционировать. Их тоже можно считать моделью, но не информационной, а аппаратной. Из-за небольших размеров и химических законов она не может быть сложной.

Также стоит отметить, что интеллект тесно связан с понятиями объекта и памяти. Объект — это нечто, что обладает состоянием и поведением, что мы определяем как одно и то же в разные моменты времени. Память нужна, чтобы хранить признаки объектов между этими моментами, здесь и начинается модель. Но объекты это тема отдельного разговора.

Ощущения

Люди испытывают приятные и неприятные ощущения. Рассмотрим понятие боли. Боль — это неприятное ощущение, если она присутствует, то мозг постоянно обращает на нее внимание. Обычно человек не может по желанию ощущать или не ощущать боль. При этом у людей неприятных ощущений несколько, например, есть еще страх.

Для произвольной информационной системы можно дать такое определение. Ощущения — это процесс восприятия данных, которые поступают в информационную систему постоянно, требуют своей обработки, при этом система устроена так, что не может на них не реагировать. Восприятие — это то, как данные влияют на модель. Их наличие система может воспринимать как положительную или отрицательную обратную связь. Положительную связь она стремится увеличить, отрицательную уменьшить.

Любые сигналы с датчиков это ощущения.

Может ли искусственный интеллект испытывать боль?

Сначала заметим, что естественный интеллект испытывает несколько разных для него ощущений. Боль это просто название одного из них. Она сигнализирует о повреждениях. Таким образом, если некая информационная система с интеллектом получает ощущение с информацией о повреждениях, которое она определяет как неприятное для нее, стремится минимизировать его влияние и не может это сделать путем отключения, то это аналог боли. Именно аналог, мы можем лишь определять сходство, что «Ощущение 1» похоже на человеческую боль, а «Ощущение 2» на удовольствие от чего-либо. Главное здесь то, как реагирует сама система на эти данные. Как определить, что ИИ не врет? Проверить в отладчике. Чем больше признаков, тем больше сходство, включая химические и электрические процессы. С большой вероятностью животные чувствуют ощущения, схожие с человеческими, так как реагируют аналогично человеку, тоже имеют нервные клетки, которые тоже состоят из органических соединений.

То есть, если мы сделаем информационную модель человека с точностью до атомов и электрических полей, а также окружающую его реальность, с которой он будет взаимодействовать, и смоделируем порез на пальце, то да, в этой реальности он будет испытывать боль. Если с помощью датчиков он будет взаимодействовать с нашей реальностью, то в нашей. Так как в плане обработки информации он ничем не будет отличаться от других людей. Этично ли заставлять его чувствовать боль против его желания в какой-либо реальности? Думаю, нет. Это относится к любому другому существу и любому неприятному ощущению. Но так как это информационная модель, можно смоделировать другую реакцию или иной способ восприятия, и тогда уровень этичности будет другой.

Рассмотрим систему управления базами данных с мониторингом. Если происходит сбой, подсистема мониторинга начинает с некоторой периодичностью отправлять администратору уведомление с уровнем тревоги. Можно ли сказать, что такая система испытывает боль? Нет. Во-первых, у нее нет интеллекта, модель заложена в нее программистом, и там нет понятия, аналогичного боли. Во-вторых, хотя сигнал и оценивается как неприятный, у нее нет стремления его минимизировать. В общем-то даже наоборот, она сделана для того, чтобы предоставлять максимально точную модель того, что происходит с системой. Ее можно назвать аналогом нервных клеток, а не существа, которое их имеет.

Рассмотрим бота с ИИ в компьютерной игре. Игра для него это реальность, хоть и очень ограниченная. Для правильных действий необходима информация о повреждениях. Если бот получает ее по желанию — выполнял некоторые действия, обратил внимание на рану, начали поступать сигналы о повреждении, запомнил их параметры, отвлекся, перестали поступать — то это не аналог боли. Если бот воспринимает ее как дополнительную информацию, а не как негативное ощущение, уровень которого надо минимизировать, если она не влияет на действия, предпринимаемые для других целей (например, нет стремления отдернуть руку, если он получил удар по ране на руке), то тоже нет.

Другие понятия

Что такое сознание? Его можно определить как процесс функционирования интеллекта, процесс получения информации и обновления модели реальности. Оно тесно связано с понятием «Я». «Я» это элемент в модели, представляющий саму информационную систему. Есть ли понятие «Я» у собак? Да, это тот объект, с которым они связывают команды «Сидеть-Лежать». Это означает, что у собак есть сознание и интеллект. Но умножать например собаки не умеют. Возможно, это связано с тем, что для более высоких уровней абстракции нужны дополнительные информационные элементы, которые будут наблюдать более низкие уровни и строить их модель.

Что такое понимание? Что означает, когда мы говорим, что человек понял что-то? Это означает, что у него появилась правильная модель того, что он анализировал. Информационные элементы модели соответствуют элементам реальной системы. Понимание это построение правильной модели. Почему так важен опыт? Это модель. Она позволяет моделировать процессы в информационном виде, а потому планировать и выбирать нужный вариант.

Есть нейросети, они сами строят модель по входящей информации. Строят ли они правильную модель? Результаты показывают, что как-то не очень. Для них обычно требуется специальная выборка, это тоже подготовленная модель. Но какую-то модель они могут построить, поэтому некоторый уровень интеллекта у них есть.