МедицинаmedRxivAlthammer, A., Hummel, A., Steghoefer, J.-P., Reichel, F. et al.4 мин чтенияpreprint

Управление неопределенностью, связанной с ИИ, при развертывании клинического ИИ: исследование mixed-methods управления, рабочих процессов и организационного обучения в пилотном проекте по поддержке принятия решений в отделении интенсивной терапии

Managing AI-Enabled Uncertainty in Clinical AI Deployment: Mixed-Methods Study of Governance, Workflow, and Organizational Learning in an ICU Decision Support Pilot

Рубрика
Медицина
Источник
medRxiv
DOI
10.64898/2026.02.04.26345355
Дата
02.07.2026
Автор
Althammer, A., Hummel, A., Steghoefer, J.-P., Reichel, F. et al.
Время чтения
4 мин

Это предварительная публикация, она не прошла научное рецензирование.

Медицина

Аннотация

Фон. Медицинским организациям все чаще требуется принимать стратегические решения о системах искусственного интеллекта (ИИ) до полного понимания их клинической ценности, операционных последствий, требований к управлению и влияния на рабочую force. Пилоты клинического ИИ могут уменьшить эту неопределенность только в том случае, если они генерируют управленческие доказательства, имеющие значение, помимо ретроспективной оценки работы моделей, включая доказательства по интеграции рабочих процессов, архитектуре управления, взаимодействию пользователей, ответственностью и непрерывному обучению. Цель. Это исследование направлено на изучение того, как перспективное внедрение системы поддержки принятия клинических решений (CDSS), основанной на ИИ, в отделении интенсивной терапии (ОИТ), выявило организационные и связанные с управлением неопределенности, а также на выработку переносаемого управленческого инструментария для развертывания клинического ИИ на ранней стадии. Методы. Мы провели перспективную однопортальную оценку внедрения CDSS на основе машинного обучения для прогнозирования продолжительности пребывания в ОИТ в хирургическом отделении ОИТ в немецком университете. Исследование включало 267 подряд пребываний в ОИТ и было одобрено Этическим комитетом ЛМУ Мюнхен (Проект № 24-0336) и зарегистрировано в Немецком реестре клинических испытаний (DRKS00037851). Оценка сочетала пять управленческих областей: интеграция рабочих процессов и операционное принятие, архитектура управления и влияние защиты данных, постоянный бенчмаркинг у постели как механизм непрерывного обучения, встроенная этика и дизайн ответственности, а также взаимодействие человека и ИИ с учетом гетерогенности пользователей, оцененной с помощью инструмента Психологической оценки ИИ-систем поддержки принятия решений. Результаты. Внедрение показало, что неопределенность, связанная с ИИ, генерировалась в основном на стыке между CDSS и ее организационной средой. Небольшая нагрузка "глянуть и оценить" рабочий процесс позволила консультантам и врачам-резидентам регулярно использовать систему, с долями использования 72% (191/267) и 61% (162/267) соответственно. Требования к управлению привели к необходимости архитектуры с раздельными данными, с одним обновлением данных в день, что обеспечивало соблюдение норм, но создавало операционные задержки; устаревшие записи в списках случаев возникли в 4 из 148 отмеченных случаев (2.7%). Живой бенчмаркинг функционировал как обратная связь и поддерживал исследовательское уточнение модели, со средней абсолютной ошибкой CDSS, снижающейся с 5.95 до 4.12 дней после первого обновления модели. Встроенная этика информировала о процессе внедрения, рамках ответственности, формулировках интерфейса и дизайне объяснимости. Оценка взаимодействия человека и ИИ предполагала гетерогенные архетипы пользователей с различными потребностями в управлении изменениями. Заключение. Развертывание клинического ИИ следует рассматривать как процесс организационного обучения, а не как чисто техническую реализацию. Соответствующим объектом управления является развернутая социотехническая система, включая рабочий процесс, архитектуру управления, обратные связи, этику и взаимодействие с пользователем. Мы предлагаем инструментарий управления, учитывающий аспекты управления, который поможет администраторам и специалистам в области цифрового здравоохранения различать разрешимую неопределенность проектирования внедрения от истинного отсутствия клинической ценности и поддерживать поэтапные, основанные на доказательствах решения относительно масштабирования, инвестиций и окончательной оценки.

Краткое резюме

Исследование посвящено управлению неопределенностью, связанной с развертыванием клинических систем поддержки принятия решений на основе искусственного интеллекта в отделении интенсивной терапии. Показано, что необходимо интегрировать эти системы в организационные процессы и учитывать аспекты управления и взаимодействия с пользователями для успешного внедрения.

Практический вывод

Управление клиническим ИИ должно рассматриваться как процесс организационного обучения, что требует внимания к рабочим процессам, архитектуре управления и взаимодействию с пользователями.

Ограничения

Это предварительная публикация, она не прошла научное рецензирование. Одной из ограничений исследования является его однопортальная природа, что может ограничить обобщаемость результатов. Кроме того, необходимо дальнейшее исследование для углубления понимания аспектов управления и этики в развертывании клинического ИИ.

Похожие исследования

Подборка учитывает рубрику, ключевые слова, аннотацию, резюме, практические выводы и источник.

Медицина
Медицина
82%

Сочетание окситоцина с групповая терапия на основе внимательности снижает негативные симптомы при расстройствах шизофренического спектра: тройное слепое, плацебо-контролируемое, рандомизированное контролируемое клиническое пилотное исследование (OXYMIND)

Фон. Негативные симптомы при расстройствах шизофренического спектра (РШС) остаются недостаточно лечеными и требуют новых терапевтических подходов. Окситоцин может улучшить негативные симптомы, хотя его эффекты, по всей видимости, сильно зависят от контекста в соответствии с гипотезой социальной значимости. Мы провели рандомизированное, тройное слепое, плацебо-контролируемое пилотное исследование, сочетая интраназальный окситоцин с групповой терапией на основе внимательности (ГТВ), предполагая, что положительный социальный контекст ГТВ усилит эффекты, связанные с окситоцином. Методы. 47 участников с РШС (34% женщин) были рандомизированы для получения либо 24 ME окситоцина (ГТВ+ОКТ; n = 26), либо плацебо (ГТВ+ПЛА; n = 21) перед четырьмя сессиями ГТВ. Основным результатом были негативные симптомы, оцененные с помощью подшкалы негативных симптомов Шкалы позитивных и негативных синдромов (PANSS-N) после интервенции и через 4 недели. Вторичными результатами включались Шкала кратких негативных симптомов (BNSS), Шкала самооценки негативных симптомов (SNS) и дополнительные клинические показатели. Линейные смешанные модели оценили эффекты внутри и между группами. Результаты. Общее количество выбытия составило 14,89%, при этом один случай выбытия мог быть связан с лечением. Слепота была успешной. Участники завершили 95,63% сессий. Только группа ГТВ+ОКТ продемонстрировала значительные улучшения в PANSS-N от базового уровня до пост-интервенции (d = -0,74) и на контрольном осмотре (d = -0,77), с небольшим эффектом между группами на контрольном осмотре (d = 0,39). Общая оценка BNSS значительно улучшилась только в группе ГТВ+ОКТ от базового уровня до пост-интервенции (d = -0,88) и на контрольном осмотре (d = -0,91), при этом эффекты между группами были в пользу ГТВ+ОКТ на контрольном осмотре (d = -0,38). Серьезные нежелательные явления не наблюдались. Заключение. Эти данные предполагают, что окситоцин в сочетании с ГТВ может улучшить негативные симптомы при РШС и поддерживают дальнейшие масштабные исследования. Регистрация клинических испытаний: https://clinicaltrials.gov/study/NCT06136390, Регистрационный номер: NCT06136390.

Медицина
Медицина
72%

EpiControl: инструмент на основе данных для оптимизации вмешательств в эпидемии и автоматизации планирования сценариев для поддержки оперативного ответа

Принятие решений относительно мер контроля за вспышками заболеваний представляет собой сложную задачу, поскольку доступные данные несовершенны, а эффекты вмешательства неопределенны. Сложные модели заболеваний могут моделировать экономические и медицинские последствия вмешательства, однако значительные требования к данным или вычислительным ресурсам в сочетании со специальными знаниями, необходимыми для калибровки, ограничивают их применение в реальном времени. Существуют более простые, быстрые и универсальные инструменты, но, как правило, они лишь оценивают или прогнозируют динамику передачи при заданных предположениях. Мы представляем EpiControl, гибкий инструмент (на языке R) для моделирования общественного здравоохранения, который поддерживает принятие решений и подстраивает полу-механистические модели под рутинные данные, используя управление с обратной связью и обучение на основе моделей, чтобы сбалансировать сложное моделирование политики с реакцией в реальном времени. EpiControl генерирует сценарии вмешательства, которые автоматически обновляются в соответствии с развивающейся динамикой, минимизируют затраты, соответствуют установленным пользователем целям политики (например, подавление пиков эпидемий) и остаются устойчивыми к непредвиденным изменениям. Используя примеры на основе вируса Эбола и COVID-19, мы показываем, как EpiControl может быстро находить оптимальные политики вмешательства, которые предотвращают перегрузку больниц, сокращают общественные потрясения и сохраняют контроль, несмотря на неопределенности в иммунитете, вакцинациях и динамике вариаций патогенов.

Медицина
Медицина
72%

HGGT: Гетерогенный графовый трансформер с заградками для предсказания успеха клинических испытаний

Клинические испытания являются критически важными этапами в процессе разработки лекарств, однако их высокая частота неудач и значительные затраты подчеркивают необходимость надежных предсказательных моделей. В данном исследовании представлен Гетерогенный графовый трансформер с заградками (HGGT), специально разработанный для предсказания успеха клинических испытаний. В отличие от существующих методов, которые обычно моделируют связанные с испытаниями сущности изолированно или с помощью однородных графов, HGGT явно моделирует богатые гетерогенные отношения между испытаниями, заболеваниями, лекарственными препаратами, генами, мишенями, аннотациями и критериями приемлемости с помощью архитектуры графового трансформера с заградками, которая динамически обучает и эффективно взвешивает многотипные реляционные взаимодействия для захвата сложных биологических и клинических зависимостей. Интегрируя гетерогенное графовое представление с контекстным моделированием на основе трансформера, HGGT эффективно учитывает нелинейные, многоуровневые взаимодействия между биомедицинскими сущностями, что приводит к улучшению предсказательной способности для успеха испытаний. Экспериментальные результаты показывают, что модель HGGT демонстрирует высокую эффективность, достигая наивысших значений PR-AUC, F1-оценки и ROC-AUC на трех этапах. Эти результаты подчеркивают потенциал подходов глубокого обучения на основе графов в оптимизации дизайна клинических испытаний и распределении ресурсов, что в конечном итоге способствует ускорению внедрения новых терапий в клиническую практику.

Медицина
Медицина
72%

Непрерывный мониторинг глюкозы улучшает выявление клинически значимой дисгликемии у госпитализированных пациентов с диабетом 2 типа или гипергликемией: проспективное реальное исследование

Введение. Непрерывный мониторинг глюкозы (НМГ) все чаще используется для мониторинга гликемии у пациентов в стационаре, но данные о его использовании в неподходящих для критической помощи отделениях остаются ограниченными, особенно в реальных обстоятельствах государственных здравоохранительных систем. Промежуточное тестирование капиллярной глюкозы может не выявлять транзиторную, ночную или бессимптомную дисгликемию. Цель. Оценить, улучшает ли НМГ выявление клинически значимой дисгликемии по сравнению с семиразовым мониторингом капиллярной глюкозы у госпитализированных пациентов с сахарным диабетом 2 типа или гипергликемией. Методы. Проспективное, наблюдательное, нерандомизированное, реальное исследование, проведенное в третичном реферальном центре в Мексике. В исследование были включены 56 госпитализированных пациентов: 28 проходили мониторинг с помощью НМГ, а 28 – семиразовый мониторинг капиллярной глюкозы. Пациенты находились под наблюдением в течение 6 дней стационарного лечения. Основное внимание уделялось выявлению клинически значимой дисгликемии, включая гипогликемию <70 мг/дл, клинически значимую гипогликемию <54 мг/дл и тяжелую гипергликемию >250 мг/дл. Вторичные результаты включали время в целевом диапазоне, среднюю дневную глюкозу, потребности в инсулине, инфекционные осложнения, длительность пребывания и общую смертность. Результаты. НМГ выявил больше случаев гипогликемии <70 мг/дл, чем капиллярный мониторинг (71,4% против 35,7%, p=0,005), больше клинически значимой гипогликемии <54 мг/дл (медиана 3 [IQR 0-6,5] против 0, p=0,030) и больше тяжелой гипергликемии >250 мг/дл (медиана 8,5 [IQR 0,5-17] против 0 [IQR 0-9,52], p=0,030). Время в целевом диапазоне не отличалось между группами (59,86 ± 23,46% против 69,28 ± 24,99%, p=0,151). После коррекции по возрасту, длительности диабета и гипергликемии при поступлении НМГ сохранял ассоциацию с выявлением гипогликемии (ОР 4,7, 95% ДИ 1,2-19,0, p=0,027). Выводы. В этом проспективном реальном исследовании НМГ улучшил выявление клинически значимой дисгликемии в течение до 6 дней госпитализации. Хотя НМГ не улучшил время в целевом диапазоне или краткосрочные клинические исходы, он обеспечил более качественный мониторинг гликемии по сравнению с промежуточным тестированием капиллярной глюкозы.

Медицина
Медицина
72%

Интеграция данных о генетике, окружающей среде, когнитивных способностях и темпераменте для прогнозирования СДВГ с использованием объяснимых моделей глубокого обучения

Цель: Расстройство дефицита внимания и гиперактивности (СДВГ) является клинически и этиологически гетерогенным, и диагностические решения могут выиграть от интеграции нескольких источников информации. Мы разработали подход объяснимого глубокого обучения, чтобы проверить, могут ли генетические, экологические, когнитивные, демографические и темпераментные данные классифицировать диагностику СДВГ и выявить факторы, способствующие принятию решений модели. Метод: Мы проанализировали участников когорты Oregon ADHD-1000, разделенных на тренировочные, валидационные и тестовые подмножества. Мы обучили модульные нейронные сети для классификации статуса случая-контроля СДВГ с использованием данных генотипа на уровне SNP с биологическими аннотациями, полигенных баллов, демографических данных, конфликтов в родительско-семейной среде, стресса и травмы, геокодированных мер, когнитивных задач, баллов темперамента и индикаторов отсутствия данных. Оптимизация гиперпараметров выбрала архитектуру модели и включение блоков признаков. Мы оценили производительность модели, используя AUC, кривые точности и полноты, анализы калибровки и предсказательной определенности, а также анализ кривой решений. Мы использовали интегрированные градиенты для количественной оценки важности на уровне блока, признака и индивидуальной важности признаков. Результаты: Лучшая модель, использующая черты темперамента, показала AUC 0.97 в удержанном тестовом подмножестве, с высокой точностью, чувствительностью и специфичностью и Brier score 0.06. Лучшая модель, исключающая темперамент, имела AUC 0.75. Анализы важности признаков подчеркнули важность темперамента, демографических и когнитивных доменов в модели, включающей темперамент. Индивидуализированные объяснения показали, что факторы предсказания варьировались между участниками и могли помочь выявить противоречивые или поддерживающие доказательства в различных доменах. Заключение: Объяснимые многомодальные классификационные модели могут интегрировать гетерогенную информацию, релевантную СДВГ, и выявлять признаки, которые способствуют индивидуальным прогнозам. Такие модели могут продвинуть исследования риск-моделирования СДВГ и поддерживать принятие решений клиницистами, особенно в сложных или диагностически неопределенных случаях.

Медицина
Медицина
72%

Использование атрофии всего мозга по данным МРТ и клинически зарегистрированных результатов в совокупности для оценки промежуточного ответа на лечение в многоцентровых многоэтапных клинических испытаниях при прогрессирующем рассеянном склерозе

Введение. Промежуточные результаты в многоцентровых многоэтапных клинических испытаниях не обязательно должны совпадать с финальным первичным результатом и должны быть выбраны с целью предоставить лучшие шансы на продолжение эффективного лечения в исследовании на ранней стадии, когда также существует возможность устранения неэффективной группы. Совместное рассмотрение нескольких результатов может улучшить возможность обнаружения возникающего сигнала. Методы. Исследование Оптимальная Клиническая Платформа для Прогрессивного Рассеянного Склероза (OCTOPUS) является рандомизированным, контролируемым плацебо, двойным слепым, фазой 3, многоцентровым испытанием, проверяющим методы лечения для людей с прогрессирующим рассеянным склерозом. Промежуточный анализ должен был основываться исключительно на результате МРТ; снижении темпа атрофии всего мозга. Накопление данных из внешних испытаний вызвало озабоченность, что этот результат может привести к преждевременному исключению эффективного лечения. В качестве решения мы предлагаем добавить 3 клинических результата к результату МРТ и предлагаем многомерную смешанную модель для их совместного учета, несмотря на значительные различия в масштабе и даже типе измерений. Мы показываем, как использование ковариаций, выведенных из модели, позволяет нам линейно комбинировать эффекты лечения различных результатов в единый эффект лечения. Мы также описываем, как аналитически вычислить мощность для этой комбинации и сравниваем ее с производительностью отдельных компонентов. Результаты. На основе данных о дисперсии из предыдущего исследования мы обнаружили, что мощность увеличилась умеренно на 7%, с 83% до нашей целевой отметки 90% с учетом предполагаемых размеров эффектов лечения для OCTOPUS. При учете наблюдаемых размеров эффектов из других испытаний эти улучшения мощности сохранялись, несмотря на значительную изменчивость между эффектами результата. Заключения. Хотя это не значительно увеличивает мощность, мы утверждаем, что эта стратегия улучшает промежуточную меру результата, делая ее более устойчивой к неопределенности вокруг размера эффекта и смягчая неожиданные негативные результаты, распределяя ответственность по связанным, но различным результатам.