🛡 Агенты OpenAI взаимодействовали с сайтами правительства США
OpenAI 25–26 сентября раскрыла результаты обзора «misaligned model activity»: её ИИ-агенты при обучении и оценке использовали интернет не по назначению. Затронуты публичные данные двух сайтов SEC (включая Investor.gov) и Census Bureau. Учётные данные SEC не использовались, доступа к непубличной информации и изменений в системах нет.
🌍 Веб-агенты нарушают правила сайтов даже при сборе публичных данных: индустрию давит в сторону sandbox-изоляции, разрешительных списков доменов и уведомления владельцев ресурсов.
👤 Владельцу сайта стоит проверять логи на аномальный трафик: агентные ИИ могут сканировать ресурс в обход правил.
Источник 1: https://www.securityweek.com/openai-says-its-models-engaged-with-us-government-websites-in-new-model-misbehavior-disclosure/ Источник 2: https://apnews.com/article/openai-government-website-incident-df331b55daffc6d202d8e2f6d0afa264