Несмотря на все достижения в области машинного обучения и нейросетей, принципы работы компьютерных систем заметно отличаются от работы биологических систем. Учёным до сих пор непонятны фундаментальные биомеханические механизмы, лежащие в основе надёжного и быстрого обучения биологических нейросетей. Поэтому их продолжают тщательно исследовать.

Один из наиболее подходящих объектов подобных исследований — обонятельная система насекомых. В частности, обонятельная система бабочек (например, бражника табачного, Manduca sexta) — относительно простая биологическая нейросеть, демонстрирующая способность к обучению. Поэтому бабочка представляет собой идеальный модельный организм для понимания механики обучения нейросети.

В предыдущие годы учёные провели запись нейросигналов в отдельных компонентах мозга бражника. Данные компоненты имеют структуру и механизмы, которые стандартны для биологических систем:

• использование нейромодуляторов (октопамин и допамин) для обучения мозга — кстати, у человека они также имеют важное значение для эмоций, регуляции настроения и других умственных функций;
• каскадная сетевая структура;
• значительные изменения в размерности (например, в количестве нейронов) между сетями;
• разреженное кодирование данных в многомерных сетях (sparse coding);
• случайные связи;
• наличие зашумлённого сигнала.

Само присутствие в биологической системе каких-то непонятных и на первый взгляд ненужных элементов (как пресловутая «мусорная» ДНК) на самом деле играет важную роль в функционировании всей системы. Просто мы пока не понимаем, для чего конкретно нужен тот или иной элемент. Особенный интерес вызывает высвобождение октопамина/допамина в процессе обучения. Пока неясно, каким образом такая стимуляция способствует созданию новых разреженных кодов в грибовидном теле мозга. Грибовидное тело содержит примерно 4000 клеток Кеньона, которые кодируют запахи для записи в долговремнную память бабочки.

Чтобы лучше разобраться в работе биологических нейросетей, учёные из Вашингтонского университета в Сиэтле построили вычислительную модель обонятельной системы бражника табачного, которая максимально близко соответствует записям нейроактивности его мозга и всем известным биофизическим процессам, которые там происходят, в том числе стимуляции октопамином.

Вычислительные модели нейросети грибовидного тела (MB) мозга насекомого создавались и ранее, но сейчас исследователи сделали акцент на изучении роли октопамина в процессе ассоциативного обучения, а также связи грибовидного тела с отделом antenna lobe (AL). Для этого была смоделирована архитектура и нейронная динамика всей системы целиком, в том числе октопаминовой стимуляции, роста синапсов, восприятия запахов в AL и считывания нейронов в нисходящем информационном потоке.

Схема работы отделов AL и MB в мозге модельного организма. 30 000 химических сенсоров в обонятельной системе бабочки (RN) возбуждают зашумлённую сеть предусилителя (AL), та передаёт сигнал в слой пластичной разреженной памяти грибовидного тела (MB), которая возбуждает нейроны действия (EN), интерпретирующие сигналы из грибовидного тела как конкретные действия, например, «лететь вверх». Зелёные линии соответствуют возбуждающим связям, а красные линии — ингибиторным соединениям

Авторам удалось построить компьютерную модель нейросети, которая продемонстрировала способность надёжного обучения, в то же время обладая значительным сходством с реальной биологической системой. Компьютерная модель выявила критически важные функции в работе мозга мотылька — и их влияние на процесс обучения.

Эта научная работа позволит в будущем математически описать эти функции и применить в разработке фреймворка для более эффективных компьютерных нейросетей с надёжным и быстрым обучением. Систем машинного обучения, созданных по биологическому образцу.

Учёные уверены, что выявленные механизмы каскадных сетей, разреженности и хеббовой пластичности хорошо дополнят оригинальные принципы работы нейросетей, впервые сформулированные в 1962 году в нобелевской работе Хубеля и Визеля, которые описали иерархическую структуру обработки визуальных сигналов в мозгу кошек. На основе этой работы в 1980 году была создана первая в мире математическая модель нейронной сети Neocognitron, которая во многом стала образцом для современных глубинных нейросетей (deep neural networks). Однако в этой работе не были учтены многие функциональные системы в работе живого мозга. Исследование бражника табачного позволило выявить и чётко математически смоделировать эти элементы — недостающие элементы компьютерных систем ИИ.

Научная статья опубликована 8 февраля 2018 года на сайте препринтов arXiv.org.