FedLAB: Прослеживаемые семантические кодбуки для федеративного многомодального обучения на графах

Анализ остаточного потока исследует, как вычисления языковой модели развиваются на разных уровнях, но промежуточное декодирование требует сопоставимых координат считывания на различных слоях. Если якорные встраивания и считывания контекстов не совпадают по выбранному диапазону, то видимое движение может отражать смещение измерений, а не вычислений. Мы вводим "Семантические опорные рамки" (SemRF), основанную на якорях формулировку, которая разделяет семантическое измерение и остаточную динамику. SemRF фиксирует якоря и измеряет состояния относительно них. Связание псевдообратных операций обеспечивает точную синхронизацию; при ограниченной би-обратимости SemRF дает стабильные семантические базисные координаты, границы искажения и почти единичные изменения. С фиксированным каркасом остаточные вычисления становятся семантической траекторией по глубине. Якоря задают семантическую диаграмму Вороноя: расстояние или такие показатели, как логиты, назначают каждому слою грубую ячейку, в то время как координаты сохраняют движения и границы внутри ячейки. Мы определяем шаги по слоям, профили вклада и диагностику дисбаланса, а затем используем след Вороноя для определения расслабленной трубки. Канонический след - это путь с минимальным действием внутри этой трубки; когда он не пустой с положительным квадратичным весом, он уникален и подчиняется дискретному уравнению сплайн. Избыточное действие контролирует шаг, кривизну и несоответствие профиля. Низкая кривизна означает кусочно-линейную сжимаемость и плотность локальных знаний: меньшая сложность следа означает меньше семантических узлов. Через отображение параметров на траекторию это дает условную связь с эффективностью параметров: среди допустимых настроек, соответствующих данным, следы с меньшим действием и меньшей сложностью используют меньше семантических степеней свободы. Эти гарантии требуют контролируемой ошибки интерфейса и малого остатка проекции при явных ограничениях трубки.

Агентное обучение с подкреплением требует назначения кредита действиям, направленным на взаимодействие с окружением, таким как поиски, клики, редактирования, команды навигации и взаимодействия с объектами. Стандартный GRPO использует итоговый результат проверки как единый сигнал преимущества для всех токенов действий. Этот сигнал результата полезен, но структурно неполон: он наказывает полезные исследования в неудачных имитациях и усиливает избыточные или регрессивные действия в успешных результатах. Мы предлагаем TRIAGE, структуру назначения кредита с учетом роли, которая добавляет семантическую ось роли к кредиту результата. Структурированный судья классифицирует каждый сегмент как решающий прогресс, полезное исследование, инфраструктуру без прогресса или регрессию, а фиксированное правило, зависящее от роли, отображает эти метки на ограниченные вознаграждения процесса на уровне сегмента. Это сохраняет результаты проверки как источник направления оптимизации, при этом correcting два основных слепых пятна кредита, основанного только на результате. Мы также показываем, что кредит, зависящий от роли, является оптимальной коррекцией на уровне сегмента, которую можно выразить исключительно из меток ролей — проекцией остатка преимущества на сегмент на переменную роли, — таким образом фиксированные роли снижают ошибку оценки преимущества, когда судья надежен, и мы связываем это со снижением дисперсии градиентов политики. В ALFWorld, Search-QA и WebShop TRIAGE повышает показатели успеха по сравнению с GRPO для двух моделей политики и превышает как процессные вознаграждения, извлеченные из судьи, так и базу значений, контролируемую результатом. Аблации показывают, что прирост происходит благодаря типизации ролей, а не просто добавлению плотных вознаграждений: надежное обнаружение регрессии внутри успешных траекторий является доминирующим элементом, в то время как кредит на исследование предоставляет устойчивый вторичный прирост; на завершенных результатах ALFWorld и WebShop TRIAGE также снижает количество ходов, направленных на окружение, на дополнительные 10.4% и 14.8% соответственно по сравнению с GRPO.

Мотивация: Графы разнообразия пангеномов (PVGs) все чаще используются для представления геномного разнообразия, однако в настоящее время отсутствует общая структура для прямого генерирования популяционных пангеномов из явных эволюционных историй. Существующие симуляторы обычно сосредоточены на отдельных классах вариации и не интегрируют эти вариации в рамках генеалогической структуры, основанной на явных демографических историях. В результате оценка методов пангеномов в реалистичных популяционно-генетических условиях остается сложной задачей, а эталонные наборы данных с известной эволюционной истинной редко встречаются. Результаты: Мы представляем MSpangenome - структуру, учитывающую генеалогию, которая связывает симуляции популяционной генетики по модели коалесценции и анализы графов пангеномов. Этот конвейер объединяет симуляцию предков с msprime и алгоритм построения графов de novo для генерации PVGs непосредственно из смоделированных генеалогий. Явно моделируя рекомбинацию, демографическую историю и неполную сортировку линий, MSpangenome производит структурно сложные пангеномы, в которых вложенные и перекрывающиеся структурные варианты естественным образом возникают из базовых генеалогий, в то время как их эволюционная история и топология графа остаются известными по конструкции. Это обеспечивает общую структуру для генерации реалистичных популяционных пангеномов и установления наборов данных с известной истинной для методической оценки. Мы демонстрируем его полезность, генерируя пангеномы на уровне популяции и используя их в качестве контролируемых ссылок для оценки широко используемых инструментов построения графов, таких как PGGB и Minigraph-Cactus. Наши анализы выявили контрастные режимы производительности в зависимости от уровней разнообразия последовательностей, размеров образцов и классов структурной вариации, подчеркивая ценность симуляционных оценок для выявления ошибок реконструкции, которые трудно обнаружить, используя только эмпирические наборы данных. Доступность и реализация: MSpangenome реализован на Python, полностью контейнеризирован, доступен бесплатно по адресу https://forge.inrae.fr/pangepop/MSpangepop и зеркалирован на https://github.com/inrae/MSpangepop.

Высокая скорость разработки электромобилей (ЭМ) вызвала проблемы пиковых нагрузок, конфиденциальности данных, масштабируемости и безопасного управления энергией в сетях умной электрической мобильности. Традиционные централизованные системы управления зарядкой ЭМ имеют недостатки, такие как утечка конфиденциальной информации, единая точка отказа, отсутствие гибкости в реальном времени и недостаток доверия к транзакциям. В данной статье предлагается структура управления энергией на основе ИИ с защитой конфиденциальности - Edge-Trust-Adaptive Learning Framework (PETAL-Grid), основанная на федеративной архитектуре блокчейна, которая поддерживает адаптивное и защищенное от утечек управление энергией. Ключевая цель данного исследования заключается в достижении масштабируемого, безопасного и оперативного управления зарядкой ЭМ через интеграцию федеративного искусственного интеллекта, интеллектуального прогнозирования спроса на краевых уровнях и управления доверием на основе блокчейна. Предложенная структура позволяет совместное обучение спроса без необходимости обмена сырыми данными, адаптивную зарядку в реальном времени на основе краевой интеллектуальной информации и прозрачные и защищённые от подделки энергетические транзакции на основе умных контрактов. Рабочий процесс PETAL-Grid включает сбор локальных данных, прогнозирование спроса на краевых уровнях, агрегацию федеративных моделей, адаптивное управление нагрузкой и валидацию транзакций на основе блокчейна. Результаты моделирования показывают, что PETAL-Grid может достигать 18% снижения пиковых нагрузок, 17% эффективности использования энергии и 98-99% безопасности транзакций, что лучше, чем в централизованных и базовых моделях. Результаты подтверждают, что PETAL-Grid является масштабируемым, надежным и безопасным решением для устойчивых сетей умной электрической мобильности.

Предыдущие работы по имитационному обучению на основе субоптимальных демонстраций обычно полагаются на сжатые сигналы супервизии, такие как оценки уверенности, баллы дискриминатора или веса важности. Эти скалярные сигналы имеют свои ограничения, так как не могут явно выразить промежуточные размышления о ходе выполнения задачи, режимах неудачи или корректирующих действиях. Мы предлагаем рамки имитационного обучения с критическим анализом языка, которое вместо этого использует естественный язык в качестве структурированного сигнала супервизии, избегая сворачивания выразительной обратной связи в скаляры. Наш метод сначала создает языковые метки на основе демонстраций, которые явно описывают текущий прогресс, идентифицируют субоптимальное поведение и предоставляют детализированные корректирующие рекомендации. Затем мы вводим функцию потерь критики языка, которая непосредственно обучает политики, используя эти структурированные сигналы, не сводя их к скалярам, и инстанцируем ее для как имитационного клонирования поведения, так и диффузионных политик, получая LC-BC и LC-DP. Мы также предоставляем теоретический результат, показывающий, что предложенная цель обеспечивает верхнюю границу разрыва производительности эксперта при стандартных предположениях. Эмпирически мы проводим оценку на различных задачах непрерывного управления, охватывающих навигацию, манипуляцию и игровую деятельность, где наши методы последовательно превосходят сильные базы имитационного обучения и оффлайн обучения с подкреплением. Эти результаты демонстрируют, что язык может служить мощной и структурированной формой супервизии для обучения устойчивым политикам на основе субоптимальных данных.

Экспертиза в памяти является приобретенным навыком: знание того, что кодировать, когда извлекать и как организовывать знания — это способность, известная в когнитивной науке как метапамять. Мы применяем эту перспективу к большим языковым моделям (LLMs), рассматривая управление памятью как обучаемый навык. Мы придаем операциям файловой системы статус основных действий памяти наряду с действиями по выполнению задач, позволяя модели самостоятельно решать, как управлять своей памятью. Этот навык памяти улучшается по двум направлениям: структура, которая его поддерживает (подсказки, схемы файлов, словарь действий), и умение модели его применять. Оба направления устойчивы к ручной оптимизации: эпизоды в долгосрочных задачах выполняются на протяжении тысяч шагов, и одна ошибка в памяти может оставаться незамеченной на долгое время, что делает человеческий обзор полных траекторий непрактичным. Мы представляем AutoMem, фреймворк, который автоматизирует оба направления. В первом цикле сильная LLM просматривает полные траектории агента и итеративно пересматривает структуру памяти, которая определяет, как агент взаимодействует со своими файлами памяти. Во втором цикле хорошие решения агента по памяти идентифицируются из множества эпизодов и используются в качестве обучающего сигнала для прямого улучшения мастерства модели в управлении памятью. В трех процедурно сгенерированных долгосрочных играх (Crafter, MiniHack и NetHack) оптимизация памяти отдельно — без изменения поведения модели в действиях по выполнению задач — улучшила производительность базового агента примерно в 2-4 раза, позволив 32B модели с открытыми весами конкурировать с передовыми системами, такими как Claude Opus 4.5 и Gemini 3.1 Pro Thinking. Наши результаты показывают, что управление памятью является независимо обучаемым навыком и представляет собой цель с высоким потенциалом, обеспечивающую значительные улучшения в долгосрочных задачах.