Алгоритмы искусственного интеллекта и сотни медицинских приложений для смартфонов не проходят таких же тщательных испытаний, как традиционные медицинские инструменты, устройства и технологии. Цели медицинских стартапов, врачей и пациентов на самом деле сильно отличаются.

Задача последних — не допустить и избежать ошибок. Но инструменты искусственного интеллекта в медицине развиваются по принципу ПО — «сообщай об ошибке быстро, исправляй ее потом». Рано или поздно, уверены врачи и медицинские юристы, это приведет к тяжелым ошибкам и последствиям для всей индустрии.

Медицинские товары, усиленные искусственным интеллектом, проникают в нашу жизнь под видом носимых сенсоров и чатботов, дающих врачебные советы. Системы машинного зрения превосходят радиологов в чтении снимков. ИИ помогает врачам интерпретировать МРТ сердца, сканы КТ мозга и фотографии глазного дна и, в потенциале, способен взять на себя массу рутинной работы, которую врачи выполняют вместо того, чтобы беседовать с пациентами.

«За всю свою более чем 30-летнюю медицинскую практику я не видел ничего более значимого и революционного, чем ИИ», — заявил Эрик Тополь, кардиолог и вице-президент Института Скриппса в Калифорнии.

Управление США по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA), которое за последние пять лет одобрило более 40 ИИ-продуктов, тоже признает прорывной характер этой технологии, пишет Scientific American.

Однако ряд экспертов в области медицины опасается, что эти продукты окажутся ненадлежащего качества. Врачи и защитники прав потребителей боятся, что индустрия ИТ воспользуется при разработке этих алгоритмов привычным правилом «сообщай об ошибке быстро, исправляй ее потом». И что регуляторы делают недостаточно, чтобы уберечь от этого потребителей гаджетов и медицинских услуг.

По словам Милдред Чо, профессора педиатрии Стэнфордского центра биомедицинской этики, такие случаи не редкость. Системы, разработанные в одной больнице, часто виснут в других. Программы, созданные для белых американцев, дискриминируют представителей цветных меньшинств. А ИИ делают предсказания на основе факторов, не имеющих отношения к медицине.

«Это только вопрос времени, пока что-то подобное не приведет к серьезным медицинским осложнениям», — сказал Стивен Ниссен, глава отделения кардиологии Кливлендской клиники.

Лишь один ИИ, проданный в США, прошел рандомизированные испытания, самый надежный критерий медицинской проверки — тесты подтвердили, что компьютерная диагностика колоноскопии выявляет больше полипов, чем стандартная. ИТ-стартапы редко публикуют свои статьи в рецензируемых научных журналах, а пресс-релизы часто преувеличивают достижения этих компаний. При этом модели ИИ тестируются в основном на компьютерах в лабораториях, а не в реальных условиях больниц и медицинских учреждений.

Мало существует исследований и относительно всех 320 000 медицинских приложений, которые доступны врачам и пациентам. Судя по докладу Национальной медицинской академии США, опубликованному 17 декабря, почти ни одно из них, что предназначены больным, в действительности не работает.

Аналитики замечают, что разработчики ИИ слабо заинтересованы в том, чтобы проводить дорогостоящие и долгие испытания. Экономика США работает на основе других принципов. И здесь должны вмешаться врачи.

«Если от предпринимателей требуется думать масштабно и рисковать, то задача докторов — защищать своих пациентов», — подчеркнул Викас Сайни, кардиолог и президент некоммерческой организации Lown Institute.