Разработчики расширили EPD: энкодер можно масштабировать отдельно, а повторную подготовку медиа — сократить. Для DeepSeek V4.1 Flash новый путь пока требует main.
В обзоре от 11 ноября команда vLLM описала обновления EPD — раздельного развёртывания энкодера, обработки промпта и генерации ответа. Важная граница: базовые возможности вошли в v0.32.0, а поддержка metadata-only для DeepSeek V4.1 Flash доступна в main. Обычного обновления пакета для неё может оказаться недостаточно.
Как начать инвентаризацию данных ИИ с одного рабочего маршрута: документ, индекс, журналы и кеши. Учебная карточка помогает найти владельцев и незакрытые проверки.
Закрытый корпоративный чат не делает все данные вокруг него учтёнными. Документ может попасть в поисковый индекс, фрагменты ответа — в журнал, а результат — в кеш. Если команда не знает, кто отвечает за эти копии, проверка одного окна чата оставляет существенные пробелы.
Памятка о согласовании конкретного действия: как привязать разрешение к адресату, версии документа и сроку, а затем проверить защиту на учебном примере.
Кнопка «Разрешить» полезна только тогда, когда система выполнит именно согласованное действие. Для ИИ-агента это означает проверку получателя, параметров и версии данных непосредственно перед отправкой. Иначе между вашим решением и исполнением может измениться сам запрос.
Команда использовала ИИ для интеграции, опираясь на существующий код PyTorch. Прирост к эталонному инференсу не означает такой же отрыв от vLLM.
Подключить сервер языковых моделей к новому ускорителю за неделю помогает не только ИИ. Команда IBM и RadixArk 12 ноября описала интеграцию SGLang с IBM Spyre: два разработчика с агентами написали плагин примерно на 1500 строк, используя уже работающий аппаратный слой PyTorch.
PARDIG и SatWeave доступны для погодных приложений. Частота данных, задержка поступления и точность прогноза — разные характеристики.
Google DeepMind 13 ноября открыла PARDIG и SatWeave — наборы данных для погодных, гидрологических и климатических приложений. Но отметка «почти в реальном времени» не означает, что карта дождя показывает происходящее прямо сейчас.
Adobe описала Relight: до трёх виртуальных источников света, отдельный слой и предварительный просмотр. Объясняем, что контролирует пользователь и где заканчиваются подтверждённые обещания.
В Adobe® Photoshop® появился Relight — инструмент, который меняет освещение фотографии с помощью генеративного ИИ и сохраняет результат на отдельном слое. В разборе от 10 ноября Adobe Research объяснила, как превратила исследовательский прототип в управляемое редактирование света.
Generate Soundscape анализирует видео и добавляет два фоновых слоя и два слоя эффектов. Это заготовка для монтажа: варианты, синхронизацию и расход кредитов нужно проверить.
Можно ли получить звуковую среду сцены, не собирая каждый эффект вручную? Adobe Research 11 ноября рассказала о Generate Soundscape в Adobe® Premiere®: функция анализирует видео и создаёт четыре синхронизированных аудиослоя прямо на монтажной шкале.
Памятка для Jetson: совместимость сети, границы cuDLA и сравнение всего приложения важнее обещания ускорить любой инференс.
Перенос нейросети с GPU на DLA нельзя оценивать по удобству Python-обёртки. Если модель несовместима с ускорителем или важнее минимальная задержка одного запроса, дополнительный путь исполнения может не решить вашу задачу. Сначала выберите, что хотите освободить: GPU, энергобюджет или время.
Практический критерий выбора нагрузки: в тесте NVIDIA переход от 16 к 32 запросам снизил общий поток токенов и увеличил ожидание.
Если большая MoE-модель не помещается на одной машине, второй GPU решает вопрос памяти. Вопрос скорости остаётся открытым. Разберём, как выбирать число одновременных запросов на примере GLM-5.3 и двух DGX Station, не принимая суммарные токены в секунду за скорость каждого пользователя.
Модель Microsoft и Terradot помогает оценивать удаление CO₂ каменной пылью. Сокращение числа проб на 75% пока показано в симуляциях.
ИИ может помочь сократить число дорогих проб почвы, необходимых для оценки удаления CO₂ с помощью каменной пыли. Microsoft и Terradot представили TerraNova — исследовательскую модель, но её обещание пока основано на моделировании, а не на доказанном массовом внедрении.
ModHarness-RL адаптирует сжатие контекста и подсказки во время обучения. Авторы показывают выигрыш на трёх задачах, но готового кода пока нет.
Оболочку ИИ-агента тоже можно обучать — и менять по мере того, как меняется сама модель. В препринте ModHarness-RL исследователи предложили автоматически создавать программы, которые сокращают историю взаимодействия и подсказывают агенту, когда он отклоняется от задачи.
Число работающих экспертов характеризует вычисления на токен. Для выбора оборудования нужны также полный объём весов, формат хранения и память рабочего сценария.
Ошибка при выборе MoE-модели начинается с удобного числа: «активно лишь несколько миллиардов параметров». Если оценить по нему объём весов, можно выбрать оборудование, на котором модель не поместится. Vector Institute объясняет причину: маршрутизатор выбирает часть экспертов для токена, а остальные эксперты продолжают существовать в составе модели.