Все больше государственных организаций и частных компаний внедряют системы безопасности, использующие распознавание лица и другие возможности искусственного интеллекта. Но нейронные сети в таких системах по-прежнему остаются вещью в себе.

Лучшие специалисты не могут объяснить как именно обучаемые модели приходят к своим заключениям, а значит, имеется возможность того, что в такую неконтролируемую систему кто-нибудь встроит бэкдор, для последующего использования в преступных целях.

Несмотря на то, что пока не задокументировано ни одного криминального инцидента с применением такого метода, потенциальную опасность подобных эксплойтов хорошо осознают исследователи из Чикагского университета. Они ведут разработку методологии выявления и обезвреживания таких «спящих ячеек» до того, как те сработают.