Автор оригинала: Beth Mole. Перевод – Вячеслав Голованов. Для крупнейшей медицинской страховой компании UnitedHealthcare частота ошибок искусственного интеллекта — это не проблема, а особенность работы. UnitedHealthcare, крупнейшая медицинская страховая компания в США, предположительно использует глубоко ошибочный алгоритм искусственного интеллекта для того, чтобы отменять решения врачей и неправомерно отказывать пожилым пациентам в важнейших медицинских услугах.

Это приводит к тому, что пациентов слишком рано выписывают из реабилитационных программ и лечебных учреждений, вынуждая их тратить свои сбережения на получение необходимого лечения, которое должно быть оплачено в рамках финансируемого государством плана Medicare Advantage.

Всё это следует из иска, поданного на этой неделе в окружной суд США по округу Миннесота. Иск подан наследниками двух умерших людей, которым компания UnitedHealth отказала в предоставлении медицинской страховки. В иске также содержится требование о предоставлении статуса коллективного иска для аналогичных лиц, которых по всей стране могут быть десятки тысяч.

Иск был подан одновременно с расследованием, проведённым Stat News, которое в значительной степени подтверждает требования иска. Результаты расследования основаны на внутренних документах и переписке, полученных изданием, а также на интервью с бывшими сотрудниками NaviHealth, дочерней компании UnitedHealth, которая разработала алгоритм искусственного интеллекта под названием nH Predict.

Ю «К концу своей работы в NaviHealth я поняла: Я не защитник, я просто зарабатываю деньги для этой компании, — сказала в интервью Stat Эмбер Линч, эрготерапевт и бывший менеджер по работе с пациентами NaviHealth. – Всё дело в деньгах и данных, — добавила она. — Это лишает пациента достоинства, и я это ненавижу».

Отказы на основе решений искусственного интеллекта

Согласно иску, UnitedHealth начала использовать nH Predict по меньшей мере в ноябре 2019 года и продолжает использовать его до сих пор. Алгоритм оценивает, сколько послеоперационного ухода потребуется пациенту плана Medicare Advantage после серьёзной травмы, заболевания или иных несчастных случаев, например падения или инсульта. Послеоперационный уход может включать в себя такие услуги, как терапия и квалифицированный уход со стороны агентств домашнего здравоохранения, домов престарелых и стационарных реабилитационных центров.

Как именно работает система nH Predict, пока неясно, но, по имеющимся данным, она рассчитывает стоимость послеаварийного обслуживания, получая информацию из базы данных, содержащей истории болезни 6 млн пациентов. Менеджеры NaviHealth вводят определённую информацию о пациенте, включая возраст, жизненную ситуацию и физические функции, а алгоритм искусственного интеллекта выдаёт оценки, основанные на аналогичных пациентах в базе данных. Алгоритм оценивает медицинские потребности, продолжительность пребывания и дату выписки.

Однако Линч отметила в интервью Stat, что алгоритм не учитывает многие важные факторы, влияющие на состояние здоровья и время восстановления пациента, включая сопутствующие заболевания и то, что происходит во время пребывания в больнице, например, если пациент заболел пневмонией в медучреждении или заразился COVID-19 в доме престарелых.

Согласно расследованию Stat и судебному иску, эти оценки зачастую являются драконовскими. Например, по плану Medicare Advantage пациенты, находящиеся в больнице в течение трёх дней, обычно имеют право на 100 дней оплачиваемого ухода в доме престарелых. Но в системе nH Predict пациенты редко остаются в домах престарелых больше 14 дней, прежде чем получают отказ в оплате от UnitedHealth.

Когда пациенты или их врачи просили предоставить им отчёты nH Predict, UnitedHealth отклоняла их просьбы, сообщая, что эта информация является конфиденциальной, говорится в иске. А когда врачи, выписывающие рецепты, не соглашались с решением UnitedHealth о том, какой объём послеоперационного лечения необходим их пациентам, их мнение отменялось.

Неудачные попытки

Использование несовершенного искусственного интеллекта не является чем-то новым для индустрии здравоохранения США.