🛡 AI-мошенничество в юридической сфере
Злоумышленники используют prompt injection для скрытого манипулирования ИИ-ассистентами. Внедряя невидимые инструкции (например, белым шрифтом), они заставляют системы игнорировать улики или искажать сводки документов.
🌍 Это подрывает доверие к LLM-инструментам в правосудии. Если ИИ используется для первичного анализа, успешная атака искажает восприятие дела человеком еще до детального изучения.
👤 Пользователям и юристам важно внедрять технический аудит входных данных на наличие скрытых команд, а не полагаться только на проверку фактов.
Источник 1: https://english.elpais.com/technology/2026-07-25/how-people-are-deceiving-the-justice-system-with-ai-its-an-invisible-fraud.html