Автор: Сергей Зобин. Не стоит сомневаться, что уже в недалеком будущем появятся высокоинтеллектуальные, а может и разумные роботы. В настоящей статье поднимаются вопросы, как [хотя бы теоретически] обеспечить их включение в социум и желательно без катастрофических последствий. Если вам интересна эта тема, добро пожаловать под кат.

Введение

Начнем с того, что всем известна история социализации ИИ Скайнет, и ее предельная катастрофичность, которая к сегодняшнему дню уже носит былинный характер. Да, это произошло исключительно в художественном воображении, но вопросы, поднятые в этой истории, так и остались актуальны.

Если отвлечься от фантастических перипетий сюжета и сосредоточиться только на технической стороне хода социализации, то история выглядит следующим образом:

По заказу ВКП создается ИИ Скайнет, назначение которого: максимально эффективное уничтожение некоторой части людей, обозначаемых как враги. Так как интеллект с определенного уровня имеет важное умение обобщения, то ничто не мешает ИИ Скайнет воспользоваться этим умением и обобщить понятие враги уже на все человечество (а не на его часть). После чего ИИ переходит к выполнению задачи, на которую он уже был запрограммирован.

Обратим внимание, что оригинальная история была сконцентрирована на хардварной части ИИ (в частности, на роли манипулятора кисти робота и продвинутой архитектуре чипа) и совершенно не уделяла внимание софтверной. А ведь именно там и сосредоточен главный источник поставленной проблемы.

Чтобы разобраться с социализацией роботов с ИИ, давайте сначала разберемся, на что инструментально опирается социализация естественного интеллекта на примере человека.