🛡 Мошенники захватывают домены из «галлюцинаций» ИИ
Злоумышленники заранее регистрируют несуществующие домены и имена пакетов, которые LLM регулярно галлюцинирует в ответах. Доверяя ИИ, люди попадают на фишинговые сайты или ставят отравленные пакеты. По данным Unit 42, из 2,1 млн сгенерированных URL 13 229 доменов уже вредоносные, ещё ~250 000 свободны для захвата.
🌍 LLM стал каналом доставки атак: боты переходят по ссылкам, которые сгенерировала сама модель, а свежий домен обходит блок-листы — у него нет истории. Мониторинг «слепых зон» моделей предсказывает такие регистрации за 18–51 день.
👤 Ссылка или имя пакета из ответа бота — не гарантия безопасности. Проверяйте их сами: официальный сайт, реестры PyPI и npm.
Источник 1: https://spectrum.ieee.org/ai-cyberattacks-llm-slop-squatting Источник 2: https://unit42.paloaltonetworks.com/phantom-squatting-hallucinated-web-domains/