Блог компании SkillFactory. В 2020 году в журнале Nature Machine Intelligence Уильям Лоттер и его коллеги сообщили, что нейросеть PredNet демонстрирует поведение, наблюдаемое в мозге обезьян в ответ на неожиданные стимулы, включая те, которые трудно воспроизвести в простых сетях прямого распространения.

В основе PredNet лежит теория о том, что мозг не только обрабатывает данные, но и прогнозирует их, чтобы экономить энергию. Делимся подробностями и ссылкой на код PredNet, пока у нас начинается флагманский курс Data Science.

Когда нам представляют неоднозначное изображение, наше восприятие может зависеть от контекста. Некоторые неврологи считают это свидетельством того, что мозг собирает свои представления сверху вниз, используя предсказания о том, чего он ожидает. Как же наш мозг создаёт восприятие из ощущений?

Это давняя загадка. Обилие доказательств и десятилетия непрерывных исследований показывают: чтобы воспринимать окружающую обстановку, мозг не может просто собирать сенсорную информацию, как пазл. Это подтверждается тем, что мозг может строить сцену на основе попадающего в наши глаза света, даже если поступающая информация шумная и неоднозначная.

Из-за этого многие нейробиологи смотрят на мозг как на «машину предсказаний». Предиктивная обработка позволяет мозгу использовать то, что он знает о мире априори, чтобы делать умозаключения или генерировать гипотезы о причинах поступающей сенсорной информации.

Мы воспринимаем эти гипотезы, а не данные от сенсоров. Чем туманнее входные данные, тем больше мозг полагается на предварительные знания.

«Красота системы предиктивной обработки заключается в том, что она обладает по-настоящему большими (иногда критики могут сказать, что слишком большими) возможностями объяснения множества различных явлений в самых разных системах», — рассказывает Флорис де Ланге, нейробиолог из Лаборатории предиктивной обработки мозга Университета Радбоуда в Нидерландах.

Однако растущее число доказательств этой идеи носит в основном косвенный характер и открыто альтернативным объяснениям.

«Если обратиться к когнитивной нейронауке и нейровизуализации человека, то окажется, что [существует] множество доказательств — но крайне неявных, косвенных», — рассказывает Тим Кицман из Университета Радбоуда, чьи исследования лежат в междисциплинарной области машинного обучения и нейронауки.

Поэтому, чтобы понять и проверить идею мозга предсказывающего, исследователи обращаются к вычислительным моделям. Вычислительные нейробиологи создали искусственные нейронные сети, дизайн которых вдохновлён поведением биологических нейронов, которые учатся делать прогнозы относительно поступающей информации. Эти модели демонстрируют необычные способности, которые, похоже, имитируют способности мозга.

Некоторые эксперименты с этими моделями даже намекают: чтобы удовлетворить энергетические ограничения, мозг должен был эволюционировать как машина предсказаний.

По мере распространения вычислительных моделей изучающие живых животных неврологи всё больше убеждаются: мозг учится делать выводы о причинах данных от сенсоров. Хотя детали остаются неясными, широкие мазки обретают всё большую чёткость.