🛡 Anthropic представила метод GRAM для контроля опасных знаний в ИИ
Исследователи разработали метод GRAM (Gradient-Routed Auxiliary Modules), позволяющий изолировать «двойное» знание (dual-use knowledge) в отдельных модулях нейросети. Это позволяет создавать одну модель, которую можно настраивать: оставлять опасные знания для проверенных лабораторий или полностью удалять их для публичного использования. В отличие от обычного обучения отказу, GRAM физически удаляет знания из специфических нейронов, делая их практически невосстановимыми при взломе.
🌍 Метод решает проблему дороговизны создания множества специализированных моделей. Вместо обучения разных версий можно использовать одну архитектуру с «переключателями» модулей, обеспечивая точный контроль доступа к чувствительным данным.
👤 Это шаг к безопасным ИИ-системам, которые остаются полезными для ученых, но не становятся инструментом для создания биологического или цифрового оружия в руках злоумышленников.
Источник 1: https://www.anthropic.com/research/off-switch-dual-use