MARVEL: Обучение экспертов на основе маржинальной устойчивости для обнаружения выбросов с длинным хвостом

Самодистилляция на основе политики (OPSD) стала перспективной парадигмой для улучшения рассуждений больших языковых моделей (LLM), где привилегированный учитель с доступом к эталонным решениям обеспечивает супервизию на уровне токенов по траекториям, создаваемым студентом. Однако мы обнаружили, что OPSD последовательно не справляется с моделями длительного цепочного рассуждения (long-CoT), давая в лучшем случае незначительные улучшения, при этом дестабилизируя способность к рефлективному рассуждению, на которой зависят эти модели. Посредством нового разложения супервизионного сигнала учителя мы выявили коренную причину: супервизия учителя доминируется компонентом, вызванным эталоном, который приводит к механическому запоминанию конкретных коротких путей, в то время как компонент, зависящий от вопроса и передающий выводы, игнорируется или активно противоречит. Основываясь на этой диагнозе, мы предлагаем двухступенчатое решение. Во-первых, мы создаем учителя только на основе эталона (та же модель, закомпонтованная на эталоне без вопроса), чтобы изолировать непередаваемый компонент супервизионного сигнала; остаток после вычитания этого компонента захватывает коррекцию, зависящую от вопроса и передающую вывод. Во-вторых, мы используем точечную взаимную информацию (PMI) как механизм для преобразования этого остатка в хорошо формируемое распределение целевых значений PMI, из которого студент может непосредственно дистиллировать, отфильтровав короткий путь, вызванный эталоном. Эксперименты над четырьмя моделями long-CoT на двух наборах данных показывают постоянные улучшения как по сравнению с базовой моделью, так и со стандартным OPSD, при этом сохраняя естественное эпистемическое поведение моделей на протяжении всего обучения.

Медицинские тесты с выбором ответов становятся все более переполненными, и недавние оценки на основе рубрик, такие как HealthBench, показали, что открытая клиническая оценка далека от решения: максимальный балл в ее "Сложной" подгруппе составляет всего 32%. Мы представляем небольшой, специально сложный набор оценочных данных из пяти клинических сценариев, составленных врачами, охватывающих четыре специальности (анестезиология, внутренние/семейная медицина, неотложная медицина и акушерство), каждый из которых сопровождается атомарной, взвешенной, MECE рубрикой (от 25 до 62 критериев на задачу, всего 184 критерия), составленной на основании золотого ответа, подготовленного врачом. Мы оценили три передовые модели: GPT 5.4, Claude Opus 4.7 и Gemini 3.1 Pro. Средние показатели прохождения рубрики составили 0.47 (Claude), 0.39 (GPT) и 0.37 (Gemini). Центральный вывод заключается в инверсии клинического приоритета: наиболее важные (вес-5, критически важные) критерии были выполнены всего на 32.4-41.7%, в то время как менее значимые критерии с весом-1 прошли с результатом 80-90%. 56 из 108 критически важных (вес-5) критериев (52%) не были выполнены ни одной моделью. Три авторегистраторы LLM воспроизвели метки экспертов (выполнено/не выполнено) в 92.8-94.7% из 552 оцененных критериев. Мы рассматриваем это как вклад в методы и предварительные результаты: пять задач демонстрируют масштабируемый, обоснованный процесс, готовый к развитию в крупномасштабный эталон.

Болезнь Альцгеймера (БА) – это расстройство мозга, которое развивается медленно и в основном затрагивает память, мышление, язык и повседневную деятельность. Это одно из самых распространенных причин деменции и создает множество трудностей как для пациентов, так и для их семей. На ранней стадии симптомы часто слабо выражены и могут напоминать нормальное старение. По этой причине многие люди получают диагноз слишком поздно, когда болезнь уже прогрессирует. В настоящее время полного лекарства от БА не существует. Тем не менее, ранняя диагностика может помочь врачам лучше управлять состоянием пациента и предпринять необходимые шаги вовремя. В этом исследовании предлагается модель машинного обучения для определения ранних стадий болезни Альцгеймера на основе клинических данных, результатов нейропсихологических тестов и мер, связанных с нейровизуализацией. Данные, использованные в работе, собраны из Инициативы по нейровизуализации болезни Альцгеймера (ADNI). Поскольку в наборе данных есть пропущенные значения, применяется итеративная импутация для их заполнения. Набор данных также имеет несбалансированные классы, что решается с помощью метода Borderline SVM-SMOTE. Затем проводится отбор признаков с использованием оберток и встраиваемых методов, чтобы использовать только важные признаки для обучения. Выбранные признаки делятся на обучающие и тестовые наборы, и применяется масштабирование признаков. Разрабатывается ансамблевая модель стекового обучения с использованием логистической регрессии, Extra Trees, Bagging KNN и LightGBM в качестве базовых классификаторов. Кроме того, также обучается искусственная нейронная сеть на том же наборе данных. Эффективность этих моделей сравнивается по таким метрикам, как точность, полнота, F1-меры и AUC-ROC. Цель этого исследования состоит в том, чтобы найти лучший классификатор и выявить важные биомаркеры, которые могут помочь в ранней диагностике болезни Альцгеймера.

Обучение с подкреплением (RL) — это метод принятия решений в последовательных задачах, при котором агент обучается оптимальным политикам через взаимодействие с окружающей средой, максимизируя кумулятивные вознаграждения. Среди методов RL байесовское обучение с подкреплением (BRL) решает распространенные практические задачи, связанные с нехваткой данных, используя предварительные знания об окружении и последовательные обновления убеждений. Тем не менее, большинство подходов BRL требуют явной функции правдоподобия, которая часто недоступна или сложна для решения в реальных условиях. Мы предлагаем алгоритм, не требующий вычисления правдоподобия, — Итеративная Выборка Параметров Важности без Явного Правдоподобия (LF-IBIS), который обновляет убеждения агента в режиме онлайн по мере появления новых взаимодействий. Сочетая приближенные байесовские вычисления с итеративной выборкой параметров важности, LF-IBIS позволяет проводить полное байесовское вывод в условиях, когда динамика окружения не описана явным или управляемым правдоподобием. Метод предоставляет приближенные постериорные распределения как для параметров окружения, так и для оптимальных политик, обеспечивая количественную оценку неопределенности политики, что полезно для байесовского анализа компромисса между исследованием и эксплуатацией. Мы тестируем метод на симуляционном исследовании адаптивной рандомизации в клинических испытаниях, где закрытые формы постериоров позволяют провести валидацию. Дополнительные эксперименты рассматривают ситуации, когда постериор не имеет закрытой формы, и демонстрируют онлайн-обновление политики на основе постериорного распределения оптимальной политики.

Эндоскопическая деторсия является основным методом лечения сигмовидной вирулентности (СВ); однако, деторсия не всегда бывает успешной. Мы оценили клинические результаты после неудачной эндоскопической деторсии и проанализировали рецидивы у пациентов, которые достигли клинического успеха после декомпрессии. Это одноцентровое ретроспективное когортное исследование включало 47 пациентов с первым эпизодом СВ, из которых 43 прошли эндоскопическое лечение. Базовые характеристики и краткосрочные исходы сравнивались между группами успешной и неудачной деторсии. Среди пациентов с клиническим успехом в больничном курсе и 1-летней кумулятивной рецидивности сравнивались группы успешной деторсии и успешной декомпрессии. Кумулятивный рецидив оценивался с использованием метода Каплан-Meier. Успешная деторсия была достигнута у 21 из 43 пациентов (48,8%). Среди 22 пациентов с неудачной деторсией 17 достигли клинического успеха после декомпрессии, в то время как пять имели клиническую неудачу, в том числе четверо, которым была проведена экстренная операция, и один, кто умер на следующий день. Общий уровень клинического успеха составил 88,4% (38/43). Неудачная деторсия была связана с более низким уровнем насыщения кислородом в воздухе и более высокими уровнями лактата. Клинический успех встречался реже в группе неудачной деторсии (77,3% против 100%, p=0,065), а время пребывания в больнице было длиннее (медиана 13 против 7 дней, p=0,071). Среди пациентов с клиническим успехом время до возобновления перорального питания было короче в группе успешной деторсии (медиана 1,5 против 3 дней, p=0,004), в то время как 1-летняя кумулятивная частота рецидивов была численно выше, но статистически незначительна (79,6% против 51,3%, log-rank=0,087). После оценки необходимости экстренной операции, декомпрессия как таковая может не всегда требовать немедленной повторной деторсии у выбранных пациентов, которые клинически улучшаются.

Психическое здоровье матери во время беременности может влиять на исходы родов. Данное исследование изучает связи между психиатрической уязвимостью (ПУ), определяемой как текущее или прошлое психическое расстройство, и способом родоразрешения и его показаниями. Было проведено ретроспективное когортное исследование в крупной голландской родильне. В исследование были включены первородящие женщины в возрасте 18 лет и старше с единственной беременностью, которые были отобраны в период с января 2015 года по март 2020 года. В итоге было включено 705 женщин с ПУ и 837 женщин без ПУ. Не было выявлено различий в методах родоразрешения между этими группами. Однако женщины, принимающие психотропные препараты, имели значительно более высокие шансы на проведение ассистированных vaginal delivery (AVD) по сравнению со спонтанными vaginal delivery (SVD) (aOR = 2.00). Показания, связанные с психическим здоровьем матери, для незапланированного кесарева сечения (CS) были исключительно наблюдаемы в группе с ПУ (3.4%). Различий в акушерских или фетальных показаниях не наблюдалось. Несмотря на то, что способ родоразрешения не отличался между женщинами с ПУ и без нее, женщины, использующие психотропные препараты, имели более высокие риски для проведения AVD по сравнению со SVD. Только в небольшой доле женщин с ПУ психическое здоровье матери служило показанием для незапланированного CS. Необходимо провести дальнейшие исследования для лучшего понимания пересечения ПУ и психотропных препаратов относительно метода родоразрешения.