🤒 ИИ поверил в вымышленную болезнь Bixonimania
Исследовательница Алмира Османovic Thunström провела эксперимент, создав вымышленную болезнь «Bixonimania». Она разместила в сети поддельные препринты и ссылки на несуществующие институты, которые ИИ принял за реальные факты.
🌍 Это выявило проблему «отравления» данных (data poisoning), когда фейки проникают в знания LLM через веб-краулеры. Требуются новые механизмы верификации источников.
👤 Не используйте ИИ как единственный источник медицинской информации. Уверенные ответы могут быть результатом манипуляции или галлюцинации на основе поддельных данных.
Источник 1: https://www.scientificamerican.com/podcast/episode/bixonimania-the-fake-illness-that-ai-fell-for/