Автор Райан Даффи (Ryan Duffy) выступил с критикой современных методов атрибуции кода, созданных ИИ, заявив, что текущие текстовые метки вроде Co-authored-by: Claude легко подделываются и не обеспечивают реальной безопасности. Для решения этой проблемы предложена архитектура, основанная на криптографическом доказательстве авторства.
Что произошло
Райан Даффи предложил трехуровневую систему обеспечения прослеживаемости (provenance) для кода, написанного ИИ-агентами. Система включает использование структурированных Git-трайлеров с уникальными идентификаторами сессий, обязательную криптографическую подпись коммитов через SSH и использование аппаратных модулей безопасности, таких как macOS Secure Enclave (через Secretive), для защиты ключей агентов. Это превращает простую текстовую метку в проверяемое математическое доказательство.
Контекст
В эпоху развития AI-assisted development роль ИИ-агентов трансформируется: из простых помощников они превращаются в полноценных авторов кода. Текущие стандарты используют простые текстовые метаданные для обозначения участия ИИ, что создает уязвимость, позволяя злоумышленникам внедрять вредоносный код под видом доверенных моделей или пользователей.
Почему это важно для индустрии
Для индустрии внедрение криптографической прослеживаемости становится критическим стандартом защиты цепочек поставок ПО (software supply chain). Это позволяет перейти от модели «доверия на слово» к модели проверяемого происхождения, что необходимо для создания доверенных инструментов разработки и обеспечения комплаенса в enterprise-сегменте.
Почему это важно для пользователей
Разработчикам, использующим такие инструменты, как Claude Code или GitHub Copilot, важно понимать, что существующие подписи не гарантируют подлинность кода. Предложенный подход позволяет гарантировать, что конкретный фрагмент кода действительно был сгенерирован заявленным агентом в рамках определенной сессии, а не подменен злоумышленником.
Что пока неизвестно / ограничения
Внедрение такой архитектуры потребует значительной операционной перестройки существующих процессов CI/CD и систем управления ключами.
Источники
Автор
Look at AI, редакция