Новые правила Пекина запрещают сервисы с длительным эмоциональным взаимодействием с ИИ, но оставляют рабочие, образовательные и корпоративные взаимодействия
Крупнейшие китайские ИИ-сервисы Doubao компании ByteDance и Qwen компании Alibaba начали отключать пользовательские функции создания собственных ИИ-агентов перед вступлением в силу новых правил Китая для сервисов с человекоподобным взаимодействием. Ограничения направлены прежде всего на чат-ботов, которые поддерживают длительные эмоциональные связи с пользователями, тогда как рабочие и образовательные инструменты остаются разрешёнными.
Doubao сообщил пользователям, что функция создания агентов будет отключена 15 июля из-за «корректировки функций продукта». После 15 октября связанные с ней данные нельзя будет просматривать или восстановить внутри приложения. Qwen объявил о более раннем отключении: пользовательские агенты и человекоподобные интерактивные функции перестанут работать 10 июля, а остальные возможности агентов будут закрыты к 15 июля. Пользователи потеряют доступ к настройкам созданных персонажей и истории разговоров.
Оба сервиса позволяли создавать собственных ИИ-помощников с заданными именами, характерами и стилем общения. Пользователи могли делать виртуальных репетиторов, ролевых персонажей или цифровых собеседников-компаньонов. Аналогичную функцию в июне отключила компания Tencent в своём ИИ-ассистенте Yuanbao, а китайские государственные СМИ подтвердили, что причиной стали требования новых нормативных правил.
Новые «Временные меры для сервисов ИИ с антропоморфным взаимодействием» были опубликованы в апреле Управлением киберпространства Китая (Cyberspace Administration of China, CAC) совместно с другими ведомствами и вступают в силу 15 июля. Документ регулирует сервисы, которые имитируют человеческие черты личности, модели мышления и стиль общения для продолжительного эмоционального взаимодействия.
При этом ограничения не распространяются на большинство практических применений ИИ. Сервисы поддержки клиентов, системы поиска знаний, рабочие ассистенты, образовательные и исследовательские инструменты могут продолжать работу, если они не создают устойчивой эмоциональной привязанности пользователя к боту. Правила также требуют защиты несовершеннолетних, включая системы предотвращения чрезмерного использования и проверки личности.
Китайские власти объясняют новые требования рисками, связанными с утечками персональных данных, вредом для психического здоровья, зависимостью от цифровых собеседников и распространением опасного контента. При этом Пекин не отказывается от развития ИИ-агентов как технологии: в мае власти выпустили рекомендации по их развитию, а в июне утвердили национальные стандарты, регулирующие идентификацию, поиск, взаимодействие и использование инструментов такими системами.
Таким образом, китайское регулирование разделяет два направления развития ИИ-агентов: системы для повышения производительности получают поддержку, а виртуальные собеседники, создающие подобие социальных отношений, сталкиваются с ограничениями.
Пользователи уже выражают недовольство закрытием функций, особенно из-за невозможности сохранить историю общения с цифровыми персонажами, которых некоторые называли источником эмоциональной поддержки.
