Какую роль должен играть искусственный интеллект в здравоохранении?

Роль искусственного интеллекта в здравоохранении какова она должна быть?

О использовании машинного обучения в здравоохранении и скандале с искусственным интеллектом в United Healthcare

Фото Национального института рака на Unsplash

Как некоторые из вас могут знать, я – социолог по образованию, точнее говоря, я изучал медицинскую социологию в аспирантуре. Это означает, что я сосредоточился на том, как люди и группы взаимодействуют с болезнью, лекарствами, здравоохранением и концепциями и идеями о здоровье.*

Я преподавал студентам, выбирающим профессии в области здравоохранения, об этих проблемах, когда работал преподавателем, и я считаю, что для людей, ставших нашими поставщиками здравоохранения, важно иметь представление о том, как социальные, экономические и расовые статусы взаимодействуют с нашим здоровьем. Каждый больной человек не одинаков, и оценка этого необходима, прежде чем вы сможете оказывать людям качественную помощь.

Я рассказываю обо всем этом, чтобы дать контекст моему взгляду на сегодняшнюю тему – применение машинного обучения в здравоохранении. Я довольно долго откладывал разговор об этом, потому что это такая большая тема, но несколько последних новостных сообщений вдохновили меня начать. Возможно, я еще буду говорить об этом в будущем.

О жизни и смерти

Одна из причин, по которой мне так трудно говорить о применении машинного обучения в медицинской сфере, – это потому, что риски ошибок настолько катастрофичны. Если я неправильно предскажу дату доставки пакета с носками, которые вы заказали онлайн, самый худший вариант – это то, что вам будет холодно на ногах день или два. Если модель машинного обучения допустит ошибку в медицинской ситуации, риски связаны с потерей жизни или качества жизни в очень реальном смысле.

Если модель машинного обучения допустит ошибку в медицинской ситуации, риски связаны с потерей жизни или качества жизни в очень реальном смысле.

Конечно, наши провайдеры здравоохранения уже осознают этот риск в своей ежедневной работе и учатся справляться с ним. Но в целом, ученые данных и разработчики моделей машинного обучения не знакомы с мыслью о последствиях моделей с такими последствиями. При моделировании, в примере классификационной модели, существенная часть задачи состоит в оценке стоимости того, что мы называем ложными положительными и ложными отрицательными – фактически, какие плохие последствия произойдут, когда мы предсказываем событие, которое на самом деле не происходит (FP), или предсказываем, что событие не произойдет, но оно на самом деле происходит (FN). В других видах моделей мы также тратим время на рассмотрение стоимости того, что модель делает прогноз, который сильно отличается от желаемого значения или того, что на самом деле происходит. Общая тенденция заключается в том, что модели всегда имеют некоторую неминуемую ошибку, даже генеративное искусственное интеллект. Как я уже много раз говорил, результаты моделей в какой-то мере основаны на вероятностях, и это оставляет открытыми возможности для ошибок (нежелательного поведения).

Но что означают затраты на ложно положительное или ложно отрицательное значение или другой вид ошибки в медицинской сфере? Если это еще не очевидно, деньги – это только малая часть потенциальной ошибки моделей, в здравоохранении или даже в других отраслях. Потеря денег должна быть низким приоритетом по сравнению с “потерей жизни” или “потерей способности жить независимо”. Хотя наша правовая система пытается определить денежную стоимость этих вещей для судебных дел, где присуждаются ущербы, это действительно не одно и то же, особенно когда речь идет о вашей жизни или качестве жизни.

United Healthcare

Недавним примером того, как компания United Healthcare использовала машинное обучение в своей практике, стало понятно, что плохие вещи происходят, когда “деньги” являются более приоритетными, чем “жизнь” в принятии решений в здравоохранении. Это не имеет особого отношения к модели, потому что вы можете обучить модель отдавать приоритет лучшим результатам в здравоохранении, если захотите.

К сожалению, наша система здравоохранения балансирует два противоречащих друг другу приоритета: качество заботы и прибыль. Я категорически отвергаю идею, что они могут сосуществовать мирно, потому что они всегда находятся в напряжении, но американская система основана на этой проблематической основе. Это то, что важно помнить, когда мы говорим о том, что делал (делает?) UHC и почему.

Что UHC (почти всеобще признаный худший крупный медицинский страховщик в Соединенных Штатах в плане оплаты лечения) делал вот что:

  • Человек уплатил свои страховые взносы и сделал все, что положено для предоставления страхового покрытия;
  • Человек становится пожилым и/или болеет, и ему требуется стационарное лечение для выздоровления после болезни или травмы;
  • Модель UHC получает общие характеристики случая и пациента и предсказывает, сколько времени может занять восстановление. Это предсказание учитывает значительно более короткий период ухода, чем рекомендует врач;
  • UHC доверяет модели, а не врачу, и отказывается оплачивать более длительный период ухода, выгоняя пациента из учреждения до полного выздоровления.

Многие врачи и ученые, занимающиеся системой здравоохранения, говорят о том, как страховые компании занимаются “практикой медицины без лицензии”, когда они пытаются заменить врачей, имеющих образование в медицине, в рекомендациях по лечению пациентов, и такое поведение безусловно входит в это понятие. Что еще мы можем это назвать, когда персонал UHC (с поддержкой модели) меняет план лечения для пациента?

Но это не новое явление, и на самом деле у страховщиков нет нужды подтверждать свои выборы мнением модели в качестве замены мнениям врачей. Это происходит каждый день в нашей системе здравоохранения, в форме предварительного согласования. Страховщики будут утверждать, что у них есть другие врачи, которые принимают финальное решение, и поэтому ‘практика медицины без лицензии’ не относится к ним, но ясно, что у этих врачей очевидные стимулы сторониться на сторону страховщика, а не пациента. Можно быть уверенным, что эти врачи никогда не рекомендуют дороже уход за пациентами, чем их лечащие врачи.

Применение машинного обучения

Итак, почему поведение UHC стало новостью? И что это имеет отношение к машинному обучению? Модель UHC, определяющая, сколько времени должны находиться в учреждении послеоперационные пациенты пожилого возраста, была разработана компанией naviHealth, специализирующейся именно на таких случаях. Изучив их веб-сайт, я понял, что naviHealth разрабатывает способы сокращения времени, которое пациенты пожилого возраста проводят в лечебных учреждениях. Возможно, они также предлагают некоторые элементы кейс-менеджмента, консультируют пациентов до их отправки домой. Но то, что они точно указывают на своем сайте, это возможность доставить “существенные экономические выгоды” для страховщиков.

Но суть в том, что эта модель, “nH Predict”, которая утверждает, что может определить оптимальное время пребывания пациента в лечебном учреждении за пределами его дома для получения лучших результатов лечения, на самом деле была настроена таким образом, что эти предсказания не соответствуют итогам лечения, а только экономическим выгодам.

Другими словами: если пациенту позволено находиться в больнице или восстановительном учреждении, но он уже готов вернуться домой и делает это, то это замечательно. Никто не хочет находиться в больнице дольше, чем необходимо (пробовали ли вы еду там?). Это экономическая выгода, которую можно достичь благодаря качественному уходу, описанному кейс-менеджменту и другим полезным услугам, в то время как пациент получает необходимое лечение. Но вместо этого UHC сэкономила деньги, отказываясь платить за пребывание пациентов в больнице, их выгоняли и отправляли домой, что они были готовы к этому или нет.

Вместо того, чтобы предоставлять эти услуги и готовить пациентов к выписке из больницы, UHC сэкономила деньги, отказываясь платить за пребывание пациентов в больнице, поэтому пациентам доставляли меньше ухода и отправляли домой, будь они готовы или нет.

Как модели учатся о здоровье

Я хочу прояснить, что это не было “неверным” искусственным интеллектом – это были люди, принимающие неэтичные решения и использующие машинное обучение для отмазки. Если вы хотите выгонять пожилых людей из больницы, не заботясь о последствиях для их жизни и здоровья, то вы можете сделать это сегодня в Соединенных Штатах, даже не обращаясь к модели. Но UHC, на мой взгляд, поняла, что если они будут иметь модель, предоставляющую такие рекомендации, которые человек-рецензент мог бы просто утвердить, то они получат прикрытие, потому что люди предполагают, что модели обладают независимой точностью. В конце концов, модель, конечно же, не обращается к цене за такой уход!

Но помните, что модель – это всего лишь попытка объединить паттерны в математический язык, который можно воспроизвести, и она не контролирует, какую информацию вы ей даете или какой вопрос вы ей обучаете отвечать. В случае создания модели для прогнозирования числа дней стационарного лечения, вот как вы можете это сделать.

  • Соберите большой набор данных прошлых пациентов, у которых был травмирован или заболел, попал в больницу, прошел пациентское восстановительное лечение и имел определенный результат (выздоровление, повторная госпитализация или смерть – это, что приходит на ум)
  • Преобразуйте эти файлы в числовые данные. Представьте каждого пациента как строку в электронной таблице, собирая информацию о возрасте пациента, тяжести первичной травмы, данных о медицинском прошлом пациента, наличии других заболеваний (сахарный диабет, сердечные заболевания, деменция и так далее). Это становится тренировочными данными. Важно включить A. количество дней пациентского лечения и B. каков был результат.
  • Теперь вам нужно сформулировать вопрос. Один из способов сформулировать тренировку модели в этом случае может быть таким: “Среди пациентов с хорошими результатами, с учетом всех характеристик их случаев, сколько дней реабилитации они проходили?” А затем вы можете сравнить это с “Среди пациентов с плохими результатами, с учетом всех характеристик их случаев, сколько дней реабилитации они проходили?” Это всего лишь один гипотетический способ формулирования вопроса и, следовательно, объединения тренировочных данных.

В итоге для каждого пациента вы получите прогноз того, сколько дней реабилитации будет соответствовать хорошему результату. Возможно, вы получите диапазон или вероятность хорошего результата на основе количества дней, и если вы увеличите количество дней до определенной точки, то увеличите вероятность, а если превысите определенную точку, то снова начнет появляться риск.

Имейте в виду, что количество дней реабилитации не является независимым от всего остального, что происходит – у вас может быть инфекция, осложнения или другие заболевания, которые требуют долгого пребывания в больнице не по хорошим причинам (восстановление), а по неприятным причинам (дополнительные заболевания). Подумайте о временном порядке, чтобы понять, где возможна причинно-следственная зависимость.

Использование результатов модели

Итак, у нас есть модель, и если мы сообщим ей информацию о пациенте, она даст нам прогноз, сколько времени потребуется для реабилитации пациента в больнице, если ожидается хороший результат. Здесь самый важный вопрос заключается в том, что мы делаем с этой информацией!

Если мы представляем UHC, наша цель – сэкономить деньги. Мы берем очень маленькое число из этой оценки, возможно, даже меньше диапазона рекомендаций модели для хорошего результата, и мы отказываемся платить за лечение после этой точки. Такой путь, похоже, был выбран на основе информации согласно отчетам.

Однако, если нашей целью являются результаты для пациентов, давайте задумаемся на минуту. Мы думаем, что пациенты проводят длительное время в ​​больнице или после пациентской реабилитации по не медицинским причинам? Мы думаем, что врачи отправляют своих пациентов на реабилитацию по неподходящим причинам? Каковы могут быть эти причины? Я искренне стараюсь подумать о многих случаях, где это имеет смысл со стороны врача. Как я уже упоминал, кто хочет оставаться в больнице после того, как его состояние улучшилось? Если это все-таки происходит, то мы должны искать способы изменить поведение врачей, но не в ущерб качеству ухода за людьми. Возможно, руководители больниц, установившие высокие платежи за пациентское восстановительное лечение, хотят, чтобы пациенты оставались дольше, но зарплаты врачей не зависят от продолжительности пребывания пациента. Врачи стимулируются, чтобы пациенты выздоровели.

Что я хочу сказать, если нашей целью строго является выздоровление пациентов, я не уверен, что имеет смысл вовлекать в это модель вообще. Конечно же, слишком долгие пребывания в реабилитации не являются самой большой опасностью для здоровья наших пациентов в настоящее время.

Эта статья о машинном обучении, что интересно моим читателям, но она также затрагивает вопросы экономики здравоохранения. Эти вопросы важны для каждого американца, потому что системы здравоохранения влияют на нас всех рано или поздно. Я также считаю, что это хорошее упражнение для специалистов по обработке данных, чтобы задуматься о том, что на самом деле означает размещение модели в рабочей среде, не с точки зрения полноты и точности, а с точки зрения того, как реальные человеческие жизни на это влияют. Вы отвечаете за то, на что настроена ваша модель. Вас руководят принятые вами решения при создании модели, которые могут оказать положительное или отрицательное влияние на людей и общество, и вы не можете просто взять и сказать “модель сделала это”.

Даже когда ваша модель не будет принимать решения о здравоохранении людей, она все равно оказывает некоторое влияние на людей. (Если нет, зачем ее создавать?) Я призываю всех практикующих специалистов в этой области иметь все это в виду, поскольку мы занимаемся своей работой.

*Примеры вопросов, которыми занимается медицинская социология, могут быть:

  • Как люди со Хроническими заболеваниями воспринимают себя и свое место в обществе?
  • Какие отличия в жизни и идентичности у людей, являющихся предоставителями здравоохранения?
  • Что является долгосрочными результатами здоровья для меньшинств или неблагополучных групп, и в чем и почему они отличаются от большинства групп?
  • Как влияют экологические проблемы на здоровье людей и как они взаимодействуют с социальными структурами/привилегиями?

Это только некоторые вопросы – эта область социологии охватывает много важных сфер, относящихся к жизни и благополучию людей.

Больше моих работ можно посмотреть на сайте www.stephaniekirmer.com.

Ссылки

Конгрессиональный комитет и регуляторы подвергают сомнению систему Cigna, позволяющую ее врачам отклонять претензии …

Эти расследования следуют после расследования ProPublica и The Capitol Forum, в котором говорится о том, что Cigna позволяет своим врачам отклонять сотни …

www.propublica.org

UnitedHealth использует неполадную искусственную интеллектуальную систему для отказа пожилым пациентам в медицински необходимом покрытии, как заявляется в судебном иске

Семьи бывших бенефициаров заявляют, что искусственная интеллектуальная система UnitedHealth’а “агрессивно” отклоняет претензии на медицински необходимые …

www.cbsnews.com

Главная – naviHealth

Будущее здравоохранения для пожилых людей уже здесь

navihealth.com