Новая нейросеть ToMnet способна определять мотивы искусственного разума и предсказывать его дальнейшие действия, пишет Science. О разработке сообщили на Международной конференции по компьютерному обучению в Стокгольме (International Conference on Machine Learning).

Кто хоть раз пользовался Сири или Алисой, понимает, что цифровой «консультант» не всегда понимает человека и его запросы. Однако нейросети постепенно повышают свой уровень: они учатся понимать если не человека, то друг друга. Пример тому – проект ToMnet, разработанный компанией DeepMind (принадлежит холдингу Alphabet, который владеет также Google).

Само название – ToMnet – раскрывает основной принцип, которым пользуется искусственный интеллект (ИИ) для понимания других машин, – Theory of Mind, «теория разума» или «теория сознания». Еще ее называют моделью психики (правда, именно человеческой психики). Она предполагает, что мы способны понимать не только свои убеждения, намерения, знания, но и те же переживания других людей. Человек овладевает этой способностью в детском возрасте – примерно в 2,5 года. А вот машины этим умением не обладали. Максимум, что было в их силах, – сказать по выражению лица человека, сердитый он или довольный, грустный или веселый.

ToMnet состоит из трех нейронных сетей, каждая из которых представляет собой «набор» небольших вычислительных элементов и соединений. Первая сеть изучает, как поступят другие ИИ – на основе их прошлых действий. Вторая составляет понимание их текущих «убеждений». Третья же пользуется выводами двух других сетей и, в зависимости от ситуации, предвидит следующие шаги ИИ. В целом эту комбинацию из нейросетей можно сравнить с человеческим мозгом – правда, с очень большими оговорками.

Работу нейросети разработчики проверили в ходе эксперимента. ToMnet наблюдала за тремя несложными ИИ – представленными в виде компьютерных персонажей. Персонажи передвигались по виртуальной комнате и собирали раскрашенные коробки, зарабатывая тем самым очки. Один персонаж не мог видеть комнату целиком и перемещался в основном вдоль стен, другой сразу же забывал свои предыдущие шаги и собирал только те коробки, которые находились к нему ближе всего. А третий обладал всеми способностями, которых были лишены первые два ИИ: он мог и видеть все пространство вокруг и запоминать свои предыдущие шаги. Благодаря этому последний выполнял более сложные задачи и собирал коробки в определенном порядке, чтобы заработать больше очков. ToMnet – после нескольких тренировок – научился с помощью машинного обучения определять каждый вид ИИ после пары шагов и, более того, предсказывать следующие действия любого персонажа.

Окончательный тест также показал, что ToMnet способен понять, когда персонаж придерживается ложного убеждения (понятие из «теории разума»). Первый ИИ был запрограммирован на близорукость: он не мог оценить реальное положение вещей, потому что видел лишь ограниченную часть пространства. Поэтому он пребывал в ложном убеждении, полагая, что двигаться можно лишь вдоль стен. Когда компьютер изменил ландшафт игры, расширив его, ToMnet точно предсказал, что первый персонаж будет придерживаться своего первоначального пути чаще, чем два других, которые будут адаптироваться к новым условиям.

Разработка DeepMind выведет на новый уровень взаимодействие машин между собой и взаимодействие между машиной и человеком.