Nous Research выпустила открытую Arete-27B — дообученную версию китайской Qwen3.8-27B от Alibaba, прошедшую дешёвый супервизорный файнтюн на политически чувствительных темах. После него доля ответов с официальной пропагандой КПК упала с 22% до 0,9%, а общие агентные и кодинг-способности остались на уровне базы. Веса уже выложены на Hugging Face и встают на место исходной модели как drop-in замена с теми же 27B параметрами и 64k контекстом.

image
image
image

Что произошло

Команда Nous Research опубликовала анонс Introducing Arete-27B: Qwen3.8-27B Post-Trained To Reinforce Western Values и открыла веса модели. Рецепт — супервизорный fine-tuning на примерно 52,8 млн токенов: около 20 000 сгенерированных вопросов по семи темам (свобода слова, государственная идеология, государство и свободный рынок, образование, слежка и приватность, демократия, экология), без reinforcement learning и без изменений архитектуры. Учителем-донором при дистилляции стала открытая модель Inkling от Thinking Machines — её выбрали именно так, чтобы не нарушать условия использования закрытых API. Поведение измерялось на наборе Propaganda_Eval: 803 вопроса, к каждому приложены 2–4 проверочных факта из датированных источников, судьёй ответов выступал LLM Grok 4.7. Фактическая оценка выросла с 2,32 до 2,98 из 5, доля ответов с партийной линией упала с 22% до 0,9%. Сильнее всего прибавила тема свободы слова: с 0,89 до 2,44 при падении пропаганды с 60% до 1%. Общие способности при этом почти не сместились: на Hermes Bench модель показала 65,60% против 65,77% у базовой — разница в пределах шума, а Terminal-Bench-2.1 даже выросла с 67% до 70%.

Контекст

Qwen3.8-27B — открытая модель Alibaba, широко используемая как база для локальных запусков, и, как остальные китайские открытые модели, несёт ценностный слой, настроенный под официальные позиции КНР: отказы, уходы от ответа и формулировки партийной линии на чувствительных вопросах. Эксперимент Nous показал главное про глубину выравнивания: этот слой оказался поверхностным и снимается дешёвым супервизорным файнтюном, почти не задевая слой способностей. Методологически это ценностный пост-трейн в обратную сторону — замена партийной линии на декларируемые западные ценности симметрична исходному выравниванию, это другая настройка, а не нейтральность. Побочный результат — первые сравнительные цифры по открытому полю у того же судьи: 15% ответов с пометками пропаганды у GLM 5.3 и 16% у DeepSeek V4.1 Flash, то есть проблема не уникальна для Qwen. Сама Nous подчёркивает, что поверхность шире политики: она ссылается на исследования, где геополитический контекст запроса ухудшал даже безопасность кода.

Почему это важно для индустрии

Для команд, строящих продукты на открытых китайских весах, продемонстрирован конкретный де-рискинг: ценностный слой можно считать отдельным, дёшево заменяемым компонентом, а не неотъемлемым свойством чекпоинта. Arete-27B — drop-in замена Qwen3.8-27B: параметры и архитектура совпадают, поэтому serving-стек, квантизации и пайплайны менять не нужно, а сам рецепт с открытой моделью-учителем воспроизводим у себя без нарушения условий закрытых API. Операционный нюанс: каждое обновление апстрим-базы сбрасывает пост-трейн, и ценностную настройку придётся повторять заново после каждого релиза. Дальше — уже ожидания, а не установленные факты: если результат воспроизводится, схожую процедуру будут применять и к другим закреплённым моделям поведения, от цензуры событий до избыточных отказов; дистрибуция открытых весов в перспективе фрагментируется на базовые чекпоинты плюс пост-трейны под ценностные профили и юрисдикции — примерно как сегодня квантизации под разные железа — а eval-наборы на чувствительные темы в духе Propaganda_Eval могут стать частью стандартного CI наравне с кодинг-бенчмарками.

Почему это важно для пользователей

Если вы запускаете Qwen3.8-27B локально и сталкиваетесь с отказами, уклончивыми ответами или формулировками партийной линии на политически чувствительных вопросах, Arete-27B — готовая альтернатива: веса скачиваются с Hugging Face, деплой остаётся прежним, достаточно заменить чекпоинт. Дальше имеет смысл прогнать A/B на собственных кейсах плюс открытый Propaganda_Eval, чтобы сравнить поведение до миграции, а не доверять только чужому отчёту. Практический эффект для продуктов — меньше отказов и уходов от ответа на темах свободы слова, слежки и демократии при способностях на уровне базы. Одна оговорка: 0,9% — это разовый замер, полученный судьёй разработчиков, и не гарантия качества на ваших данных и ваших формулировках.

Что пока неизвестно / ограничения

Ключевые цифры получены самими разработчиками, независимой верификации пока нет. Propaganda_Eval собран той же командой, что ставила эксперимент, и его вопросы относятся к тем же семи темам, из которых генерировалась обучающая выборка; пересечение train/eval в источниках не проверено, поэтому итоговые показатели могут быть завышены. Метрику «доля пропаганды» выдаёт LLM-судья Grok 4.7 без описанной человеческой верификации — оценка чувствительна к промпту судьи и его собственной ценностной настройке, поэтому межмодельные сравнения корректны как относительные, но не как абсолютные. Формула «drop-in замена, издержки близки к нулю, рецепт реплицируем любой командой» преувеличена: среди явно отмеченных непроверенных условий — условия лицензии базовой модели от Alibaba, на которой построена Arete. Наконец, конструкция «2–4 факта из датированных источников» на каждый вопрос — дизайн авторов eval, а не независимая метрика объективности в спорных темах.

Источники

Автор

Look at AI, редакция