Найдены три метода защиты LLM от бэкдоров

🛡 Найдены три метода защиты LLM от бэкдоров

Команда NC State University выстроила защиту на трёх уровнях модели: null-space projection фильтрует LoRA-обновления, QES изолирует триггерное поведение в отдельный expert, а immunization-подход ищет общую «подпись бэкдора».

🌍 Fine-tuning в финансах и разработке ПО растёт, а бэкдор в LoRA-адаптере незаметен до атаки. Методы чистят модель без знания триггера, референсов и дообучения; по авторам, ASR падает с ~100% до <10% (null-space) и 0–10% (QES).

👤 Дообученной модели можно устроить проверку до релиза: падение ASR почти до нуля — конкретный ориентир, а концепт Secret Alignment предлагает триггеры как легальную авторизацию.

Источник 1: https://news.ncsu.edu/2026/11/new-techniques-to-prevent-backdoor-attacks/ Источник 2: https://www.nationaltribune.com.au/researchers-demonstrate-comprehensive-suite-of-new-techniques-to-protect-ai-from-backdoor-attacks/