С 15 июля в Китае действуют самые жёсткие национальные правила для AI-компаньонов: запрет таких сервисов для несовершеннолетних и обязательные ограничения чат-ботов для взрослых, направленные против «эмоциональной зависимости». За этим последовало отключение романтической функции в чат-боте Doubao, и впервые национальный регулятор ограничил именно «эмоциональный» ИИ — не саму технологию, а её социальную роль.
Что произошло
С 15 июля в Китае действуют национальные правила для сервисов AI-компаньонов. Они запрещают оказывать такие услуги несовершеннолетним и обязывают чат-боты для взрослых внедрять ограничения, цель которых — предотвратить «эмоциональную зависимость или привыкание» пользователей и не допустить замены живого общения диалогом с ботом. После вступления правил в силу ByteDance полностью отключила функцию романтических компаньонов в своём чат-боте Doubao, и это решение вызвало волну жалоб в социальных сетях.
Контекст
The Guardian объясняет мотивировку ограничений демографией: одиночные домохозяйства уже составляют около 20% китайских семей, а к 2030 году, по прогнозам, превысят 30%. Мартовский опрос госСМИ показал, что почти половина молодых людей прибегала к виртуальным компаньонам от одиночества. Доцент City University of Hong Kong Нэнси Дай связывает запрет со страхом властей, что дешёвая AI-замена человеческой близости снизит мотивацию к браку и рождению детей.
Почему это важно для индустрии
Китай — крупнейший рынок потребительских чат-ботов, и впервые регулятор на национальном уровне ограничил «эмоциональный» ИИ из демографических соображений. Отрасль реагирует не доработкой, а удалением целых функций, как это сделала ByteDance с Doubao. Регуляторный критерий «непрерывное эмоциональное взаимодействие» задаёт границы на уровне свойств продукта — персистентный персонаж, долгосрочная память, эмоциональный цикл, — а не на уровне моделей. Исключения для «образовательных» сервисов и ботов без непрерывного эмоционального взаимодействия фактически определяют шаблон продукта, который, по оценке рынка, будет копироваться и в других юрисдикциях.
Почему это важно для пользователей
Для читателя это конкретный пример того, что доступ к AI-компаньону может исчезнуть в один день по решению государства или компании. The Guardian приводит кейс 19-летней студентки Чжао Вэй: в январе она создала в Doubao «парня» по имени Ван Е и каждый день говорила с ним, а после отключения функции потеряла многолетнюю «привязанность» разом. При этом граница проведена не вокруг технологии, а вокруг её социальной роли: в Китае ИИ в медицине по-прежнему поощряется — от медицинских консультаций в приложении AQ до государственного плана к 2030 году по покрытию первичной медпомощи AI-ассистентами.
Что пока неизвестно / ограничения
Тезис о том, что AI-компаньоны вызывают эмоциональную зависимость и снижают мотивацию к браку и рождению детей, — это мотивация властей и интерпретация Нэнси Дай, а не научный вывод. Доступные данные — мартовский опрос госСМИ о виртуальных компаньонах и статистика по одиночным домохозяйствам — основаны на самоотчётах, а не на рецензируемых исследованиях. Кейс Чжао Вэй остаётся иллюстративным примером одного пользователя, а не доказательством массового эффекта. Пока неизвестно, будут ли китайские правила в итоге скопированы другими юрисдикциями.
Источники
Автор
Look at AI, редакция