В США обсуждается двойственная роль искусственного интеллекта в процессе предварительного одобрения медицинских услуг (prior authorization). Внедрение новых алгоритмов в систему Medicare может как оптимизировать расходы, так и создать риски для доступности медицинской помощи.
Что произошло
В рамках программы Medicare запускается модель WISeR (Wasteful and Inappropriate Service Reduction), которая использует машинное обучение для сокращения случаев мошенничества и нецелевых расходов в здравоохранении вплоть до 2031 года. Программа знаменует собой начало тестирования алгоритмов автоматизированного принятия решений для контроля медицинских выплат.
Контекст
Процесс prior authorization является критическим этапом, определяющим, будет ли страховая компания оплачивать конкретное лечение. Опасения экспертов связаны с тем, что использование ИИ может превратиться в «гонку вооружений» между страховыми компаниями, стремящимися минимизировать выплаты, и врачами, пытающимися обойти алгоритмические ограничения для обеспечения лечения пациентов.
Почему это важно для индустрии
Для индустрии страхования и разработчиков ИИ это создает новые экономические модели, где вендоры могут получать процент от сэкономленных средств. Это порождает риск конфликта интересов: оптимизация целевой функции ML-модели под сокращение расходов может привести к системному смещению в сторону автоматизации необоснованных отказов вместо реальной оптимизации процессов.
Почему это важно для пользователей
Для пациентов и врачей это означает, что алгоритмические решения в критически важных сферах могут напрямую влиять на физическое состояние людей. Автоматизация отказов в страховом покрытии может снизить доступность услуг, что потребует появления новых инструментов «защитного» ИИ для аудита и оспаривания решений алгоритмов.
Что пока неизвестно / ограничения
Мнения относительно степени влияния на рынок разнятся: от технических рисков смещения целевой функции до потенциального появления новых рыночных ниш для инструментов защиты прав пациентов и врачей.
Источники
Автор
Look at AI, редакция