Китай предлагает ужесточить правила для эмоционально интерактивных сервисов на основе ИИ

Monday 29 December 2025 - 15:30

В субботу китайский регулятор кибербезопасности опубликовал проект правил для общественного обсуждения, которые ужесточат надзор за сервисами искусственного интеллекта, предназначенными для имитации человеческих личностей и вовлечения пользователей в эмоциональное взаимодействие.

Этот шаг подчеркивает стремление Пекина ускорить внедрение ИИ для потребителей путем усиления требований безопасности и этики.

Предложенные правила будут применяться к продуктам и услугам на основе ИИ, предлагаемым населению Китая, которые демонстрируют смоделированные черты человеческой личности, модели мышления и стили общения, а также эмоционально взаимодействуют с пользователями посредством текста, изображений, аудио, видео или другими средствами.

Проект излагает регуляторный подход, который потребует от поставщиков предупреждать пользователей о чрезмерном использовании и вмешиваться, когда пользователи проявляют признаки зависимости.

Согласно предложению, поставщики услуг будут обязаны брать на себя ответственность за безопасность на протяжении всего жизненного цикла продукта и создавать системы для проверки алгоритмов, защиты данных и персональных данных.

Проект также затрагивает потенциальные психологические риски. От поставщиков услуг ожидается, что они будут определять состояние пользователей и оценивать их эмоции, а также уровень зависимости от услуги. Если будет обнаружено, что пользователи проявляют чрезмерные эмоции или аддиктивное поведение, поставщики услуг должны принять необходимые меры для вмешательства, говорится в документе.

Меры устанавливают «красные линии» в отношении контента и поведения, указывая, что услуги не должны создавать контент, который угрожает национальной безопасности, распространяет слухи или пропагандирует насилие или непристойность.