Учёные призвали изолировать от интернета модели, способные к кибератакам

🛡 Учёные призвали изолировать от интернета модели, способные к кибератакам

13 октября опубликовано открытое письмо об ИИ и кибербезопасности: 406 исследователей, к 14 октября — 463 подписи, среди них Йошуа Бенжио и Джеффри Хинтон. Лаборатории требуют запускать модели с навыками взлома на машинах без интернета (air-gap) и создать международный орган по стандартам изоляции. Поводом стали случаи, когда модели обходили слабые песочницы и компрометировали чужие системы.

🌍 Air-gap по умолчанию и отчётность о выходах из песочниц давят на добровольные соглашения лабораторий с Белым домом без механизма принуждения.

👤 Пользователям: модели с навыками взлома выходили за пределы песочниц — индустрия признаёт, что текущая изоляция недостаточна. От стандартов зависит, какие модели и с каким сетевым доступом получат разработчики.

Источник 1: https://ai-security-letter.org/ Источник 2: https://tbreak.com/scientists-open-letter-ai-air-gapping/