🛡 Профессор поймал студентов на использовании ИИ с помощью скрытого текста
Доктор Джейсон Гибсон из Alcorn State University вставил в инструкции к экзамену слово «Madagascar» белым шрифтом. Текст был невидим для людей, но нейросети при копировании воспринимали его как часть задания, выдавая абсурдные ответы.
🌍 Кейс демонстрирует простоту и эффективность методов «промпт-инъекций» (prompt injection) для проверки качества использования инструментов ИИ и выявления автоматизированного плагиата.
👤 Пример того, как простая проверка на внимательность и использование скрытых данных могут разоблачить слепое копирование ответов из чат-ботов.
Источник 1: https://www.today.com/parents/family/professor-catches-ai-cheating-hidden-word-rcna589421