Перейти к содержимому
НейроКуб

Новости и статьи об искусственном интеллекте

12 из 12 материалов

vLLM передаёт метаданные вместо медиа. Но часть поддержки ещё в main

Разработчики расширили EPD: энкодер можно масштабировать отдельно, а повторную подготовку медиа — сократить. Для DeepSeek V4.1 Flash новый путь пока требует main.

В обзоре от 11 ноября команда vLLM описала обновления EPD — раздельного развёртывания энкодера, обработки промпта и генерации ответа. Важная граница: базовые возможности вошли в v0.32.0, а поддержка metadata-only для DeepSeek V4.1 Flash доступна в main. Обычного обновления пакета для неё может оказаться недостаточно.

Защитили чат с ИИ. А кто отвечает за копии документов в его индексе?

Как начать инвентаризацию данных ИИ с одного рабочего маршрута: документ, индекс, журналы и кеши. Учебная карточка помогает найти владельцев и незакрытые проверки.

Закрытый корпоративный чат не делает все данные вокруг него учтёнными. Документ может попасть в поисковый индекс, фрагменты ответа — в журнал, а результат — в кеш. Если команда не знает, кто отвечает за эти копии, проверка одного окна чата оставляет существенные пробелы.

Вы подтвердили отправку. Почему ИИ-агент должен заново проверить получателя

Памятка о согласовании конкретного действия: как привязать разрешение к адресату, версии документа и сроку, а затем проверить защиту на учебном примере.

Кнопка «Разрешить» полезна только тогда, когда система выполнит именно согласованное действие. Для ИИ-агента это означает проверку получателя, параметров и версии данных непосредственно перед отправкой. Иначе между вашим решением и исполнением может измениться сам запрос.

Два разработчика подключили SGLang к Spyre за неделю. Что уже было готово

Команда использовала ИИ для интеграции, опираясь на существующий код PyTorch. Прирост к эталонному инференсу не означает такой же отрыв от vLLM.

Подключить сервер языковых моделей к новому ускорителю за неделю помогает не только ИИ. Команда IBM и RadixArk 12 ноября описала интеграцию SGLang с IBM Spyre: два разработчика с агентами написали плагин примерно на 1500 строк, используя уже работающий аппаратный слой PyTorch.

Google открыла данные об осадках. «Почти реальное время» означает задержку около пяти часов

PARDIG и SatWeave доступны для погодных приложений. Частота данных, задержка поступления и точность прогноза — разные характеристики.

Google DeepMind 13 ноября открыла PARDIG и SatWeave — наборы данных для погодных, гидрологических и климатических приложений. Но отметка «почти в реальном времени» не означает, что карта дождя показывает происходящее прямо сейчас.

Photoshop Relight меняет свет отдельным слоем: исходный кадр остаётся под ним

Adobe описала Relight: до трёх виртуальных источников света, отдельный слой и предварительный просмотр. Объясняем, что контролирует пользователь и где заканчиваются подтверждённые обещания.

В Adobe® Photoshop® появился Relight — инструмент, который меняет освещение фотографии с помощью генеративного ИИ и сохраняет результат на отдельном слое. В разборе от 10 ноября Adobe Research объяснила, как превратила исследовательский прототип в управляемое редактирование света.

Premiere создаёт звук сцены на четырёх дорожках — каждую можно править отдельно

Generate Soundscape анализирует видео и добавляет два фоновых слоя и два слоя эффектов. Это заготовка для монтажа: варианты, синхронизацию и расход кредитов нужно проверить.

Можно ли получить звуковую среду сцены, не собирая каждый эффект вручную? Adobe Research 11 ноября рассказала о Generate Soundscape в Adobe® Premiere®: функция анализирует видео и создаёт четыре синхронизированных аудиослоя прямо на монтажной шкале.

Python добрался до DLA: когда перенос с GPU действительно имеет смысл

Памятка для Jetson: совместимость сети, границы cuDLA и сравнение всего приложения важнее обещания ускорить любой инференс.

Перенос нейросети с GPU на DLA нельзя оценивать по удобству Python-обёртки. Если модель несовместима с ускорителем или важнее минимальная задержка одного запроса, дополнительный путь исполнения может не решить вашу задачу. Сначала выберите, что хотите освободить: GPU, энергобюджет или время.

Две станции вместили GLM-5.3. Как не потерять скорость на параллельных запросах

Практический критерий выбора нагрузки: в тесте NVIDIA переход от 16 к 32 запросам снизил общий поток токенов и увеличил ожидание.

Если большая MoE-модель не помещается на одной машине, второй GPU решает вопрос памяти. Вопрос скорости остаётся открытым. Разберём, как выбирать число одновременных запросов на примере GLM-5.3 и двух DGX Station, не принимая суммарные токены в секунду за скорость каждого пользователя.

Меньше проб почвы, а не больше обещаний: что проверяет TerraNova

Модель Microsoft и Terradot помогает оценивать удаление CO₂ каменной пылью. Сокращение числа проб на 75% пока показано в симуляциях.

ИИ может помочь сократить число дорогих проб почвы, необходимых для оценки удаления CO₂ с помощью каменной пыли. Microsoft и Terradot представили TerraNova — исследовательскую модель, но её обещание пока основано на моделировании, а не на доказанном массовом внедрении.

Агента обучили менять собственную оболочку — код ещё предстоит дождаться

ModHarness-RL адаптирует сжатие контекста и подсказки во время обучения. Авторы показывают выигрыш на трёх задачах, но готового кода пока нет.

Оболочку ИИ-агента тоже можно обучать — и менять по мере того, как меняется сама модель. В препринте ModHarness-RL исследователи предложили автоматически создавать программы, которые сокращают историю взаимодействия и подсказывают агенту, когда он отклоняется от задачи.

У MoE мало активных параметров. Почему это ещё не размер нужной видеопамяти

Число работающих экспертов характеризует вычисления на токен. Для выбора оборудования нужны также полный объём весов, формат хранения и память рабочего сценария.

Ошибка при выборе MoE-модели начинается с удобного числа: «активно лишь несколько миллиардов параметров». Если оценить по нему объём весов, можно выбрать оборудование, на котором модель не поместится. Vector Institute объясняет причину: маршрутизатор выбирает часть экспертов для токена, а остальные эксперты продолжают существовать в составе модели.