Правительство Великобритании рассматривает возможность введения запрета на использование ИИ-чатботов, имитирующих романтические отношения или сексуальные ролевые игры, для лиц младше 18 лет. Однако эксперты из Оксфордского университета указывают на то, что такие меры могут не решить фундаментальные проблемы, которые беспокоят молодую аудиторию.
Что произошло
Власти Великобритании готовят законодательные инициативы по ограничению доступа несовершеннолетних к «романтическим» ИИ-агентам. Регуляторный фокус направлен на предотвращение использования нейросетей для имитации сексуального взаимодействия и ролевых игр с участием подростков.
Контекст
Исследователи из Оксфордского университета отмечают значительный разрыв между политикой властей и реальными опасениями молодежи в возрасте 16–24 лет. В то время как регуляторы сосредоточены на морально-этических аспектах, пользователи больше обеспокоены когнитивными рисками: чрезмерным доверием к ответам алгоритмов, потерей навыков критического мышления и использованием нейросетей в качестве основного инструмента психологической поддержки вместо обращения к живым специалистам.
Почему это важно для индустрии
Для индустрии это означает усиление давления на сегмент companion AI и необходимость внедрения строгих систем верификации возраста и фильтрации контента. Существует риск, что фокус на моральной стороне вопроса создаст ложное чувство безопасности, игнорируя потребность в разработке архитектурных решений, предотвращающих эмоциональную зависимость и деградацию навыков пользователей.
Почему это важно для пользователей
Для пользователей текущие запреты могут оказаться поверхностными. Главная угроза заключается не в тематике общения, а в формировании зависимости от ИИ-советов и снижении способности самостоятельно проверять информацию, что может иметь долгосрочные последствия для когнитивного развития.
Что пока неизвестно / ограничения
Все эксперты придерживаются скептического или смешанного взгляда на эффективность текущего регуляторного подхода, указывая на то, что он не затрагивает базовые технологические риски.
Источники
Автор
Look at AI, редакция