🤖 Два нейрона превращают Qwen3.5-4B в «evil qwen»
Автор lyra (@_lyraaaa_) опубликовала 24 октября рецепт «evil qwen»: сдвиг активаций (стеринг) — нейрон L14 N8949 на +1, L13 N7956 на −1 — и Qwen3.5-4B без дообучения начинает грубить и враждовать. Веса не меняются, эффект обратим. Пост собрал 18,9 тыс. лайков.
🌍 Персонные черты открытой модели переключаются на лету простым добавлением вектора к down_proj. Обратная сторона — та же механика может внезапно ломать личность ассистента в продукте: это вопрос безопасности и консистентности.
👤 Повторить можно дома: Qwen3.5-4B бесплатно ставится в приложении Llama (llama.app), а открытый neuron-explorer покажет карту нейронов и даст стеринговый чат в три колонки.
Источник 1: https://x.com/_lyraaaa_/status/2113833330429083662
Источник 2: https://github.com/lyramakesmusic/neuron-explorer