Блог компании BotHub. Автор: Катя @Lithium_vn. В последние годы технологии автономного вождения привлекают пристальное внимание ученых и бизнеса по всему миру. От их внедрения ожидают значительных общественных выгод – повышения безопасности на дорогах, снижения загруженности и вредных выбросов.

Однако аспект безопасности до сих пор вызывает серьезную озабоченность, мешая широкому внедрению. Реальные дорожные сценарии неизбежно несут неопределенность, из-за чего автономные автомобили могут вести себя непредсказуемо и опасно, порой с фатальным исходом.

Современный ИИ достиг впечатляющего прогресса, стимулируя сферу автономного транспорта. Особенно перспективно выглядит обучение с подкреплением (RL), показавшее успехи в сложных задачах принятия решений вроде игры в Го или управления беспилотными автомобилями. Поэтому исследователи активно изучают применение RL в автопилотах.

Но существующие подходы не дают гарантий безопасности, что ограничивает использование RL там, где оно имеет решающее значение. Учитывая это, предпринимаются попытки разработать безопасные методы RL для защиты автономных автомобилей. Распространена идея дополнять традиционные алгоритмы RL проверками и ограничениями, чтобы одновременно оптимизировать стратегии вождения и повышать безопасность. Тем не менее, все равно происходит неизбежное столкновение с опасными ситуациями в попытках их избегать.

В свете этого некоторые эксперты призывают активнее исследовать нейро-ИИ – перспективное направление следующего поколения ИИ. В основе методики лежит понимание поведения мозга из нейробиологии и психологии. Считается, например, что дофаминергические нейроны среднего мозга отвечают за сигналы вознаграждения, позволяя обучаться поощряемому поведению.

В последнее же время появляется все больше свидетельств того, что в процессах RL в мозге ключевую роль играет миндалевидное тело, отвечающее в том числе за реакции на опасности. С учетом этого, было проведено исследование с целью установить связи между ИИ, нейронаукой и психологией, чтобы разработать новые безопасные методы RL для автопилотов путем моделирования функций миндалевидного тела и ответить на вопрос “Могут ли некоторые из тех же признаков страха и оборонительного вождения быть как-то запрограммированы в беспилотный автомобиль?”

Исследование называется “ Fear-Neuro-Inspired Reinforcement Learning for Safe Autonomous Driving" (Обучение с подкреплением на основе нейронной модели страха для безопасного автономного вождения) и ознакомиться с ним можно здесь.

Сразу небольшой спойлер: да, системы ИИ могут стать более безопасными и осторожными водителями, получив нейронные черты, аналогичные тем, которые люди испытывают, когда чувствуют страх.

Более того, как выяснили исследователи, этот трюк может помочь системе автономного управления автомобилем работать более безопасно, чем другие передовые системы автономных транспортных средств. Новый вид «вдохновленного страхом» метода обучения с подкреплением оказался неожиданно полезным для повышения безопасности беспилотных автомобилей.

Страх как двигатель прогресса