Компания Meta приостановила работу своей внутренней инициативы Model Capability Initiative (MCI) после масштабного инцидента безопасности. Программа, предназначенная для улучшения моделей ИИ, собирала чувствительные поведенческие данные сотрудников, включая нажатия клавиш и движения мыши, что привело к утечке конфиденциальной информации внутри корпорации.
Что произошло
В результате утечки данных, классифицированной как инцидент уровня SEV 2, внутри компании стали доступны частные переписки сотрудников, данные об их производительности и транскрипции активности. Программа MCI, запущенная в апреле 2026 года, использовала высокочастотные логи нажатий клавиш (keystrokes) и движений мыши для обучения моделей, но архитектурный провал в управлении правами доступа превратил эти данные в критическую уязвимость.
Контекст
Инициатива MCI была направлена на использование максимально детализированных поведенческих данных для повышения качества моделей. Однако сбор сырых логов без должной изоляции создал огромную поверхность атаки, где ценные датасеты для обучения фактически стали инструментом компрометации приватности персонала.
Почему это важно для индустрии
Инцидент подчеркивает критические риски использования 'raw' поведенческих логов для обучения корпоративных LLM. Для индустрии это сигнал о необходимости перехода к методам Privacy-Preserving Machine Learning (PPML), использованию синтетических данных или внедрению строгих протоколов Differential Privacy, чтобы избежать юридических последствий и подрыва доверия к внедрению ИИ в крупных тех-компаниях.
Почему это важно для пользователей
Для рядовых пользователей и сотрудников этот случай служит предупреждением о том, что инструменты мониторинга, созданные для улучшения ИИ, могут стать источником утечек личной информации. Это подчеркивает важность строгого контроля за тем, какие именно поведенческие данные собираются и кто имеет к ним доступ.
Источники
Автор
Look at AI, редакция