🤖 Баг в Google AI Overviews: запросы путаются с командами
Google столкнулась с проблемой, когда функция AI Overviews принимает слова-команды (например, 'disregard' или 'skip') за прямые инструкции для чат-бота. Вместо поиска информации по термину, нейросеть переходит в разговорный режим и игнорирует суть запроса.
🌍 Инцидент подсвечивает сложность разграничения между поисковым интентом (search intent) и инструкциями для LLM (prompting), что является критическим вызовом при внедрении генеративного ИИ в поисковые системы.
👤 Пользователи могут столкнуться с тем, что ИИ-помощник вместо полезных ответов начинает вести бессмысленные диалоги, если в запросе встречаются глаголы действия.
Источник 1: https://www.theverge.com/tech/936176/google-ai-overviews-search-disregard