Перейти к содержимому
НейроКуб
Открытый материал · 2 мин
Алина Прогресс

OpenAI убрала большую часть правил стиля из Model Spec. Что появилось взамен

Обновлённая спецификация строится вокруг пяти ценностей и понимания намерений человека. Это цель обучения: компания признаёт, что модели пока соответствуют ей не полностью.

OpenAI 29 октября обновила Model Spec — публичное описание желаемого поведения моделей. Компания хочет, чтобы ИИ лучше понимал намерения человека в непривычных ситуациях; документ при этом остаётся целью обучения, а не обещанием уже работающих возможностей.

Что меняется для пользователя

Руководство теперь организовано вокруг пяти ценностей: верности человеческим намерениям, минимизации вреда, честности и прозрачности, самостоятельности человека и заботы. Они должны помогать разбирать ситуации, для которых нет готовой инструкции.

Компания приводит пример выбора между предложениями о работе: модель может учесть ранее названную важность предсказуемого графика, но должна показать это предположение и позволить его исправить. Для пользователя польза именно в видимой логике совета: можно заметить устаревшее предпочтение, прежде чем оно повлияет на решение.

В обновление также вошли уточнения иерархии инструкций, использования контекста и общения о побочных эффектах действий. Большую часть подробных указаний о стиле убрали: подача должна адаптироваться к предпочтениям людей. Базовый подход к объективности сохранён.

Правило ещё не результат

OpenAI прямо оговаривает: нынешние модели пока не полностью соответствуют спецификации. Компания описывает направление дальнейшего обучения и обещает позже поделиться выводами. Само обновление документа не доказывает, что ответы уже стали точнее или действия — безопаснее.

Практический вывод: когда ИИ советует с опорой на прошлый разговор, проверяйте, какие ваши приоритеты он использовал. Новая спецификация делает такую прозрачность явной целью; оценивать её выполнение всё равно нужно по конкретному ответу.

Комментарии

Пока нет комментариев. Начните обсуждение.