Китай ужесточит контроль над ИИ, имитирующим человеческую личность

Администрация киберпространства (CAC) Китая в субботу опубликовала для общественного обсуждения проект правил, предусматривающих ужесточение контроля над сервисами искусственного интеллекта (ИИ), предназначенными для имитации человеческой личности и эмоционального взаимодействия с пользователями.

Как передает Report, об этом сообщает Reuters.

Агентство указывает, что этот шаг отражает стремление Пекина взять под контроль быстрый рост потребительских ИИ-сервисов за счет ужесточения требований к их безопасности и этическим стандартам.

Новые правила предполагается распространить на ИИ-продукты и сервисы, доступные широкой аудитории в Китае, которые имитируют человеческую личность, способы мышления и стили общения, а также выстраивают эмоциональное взаимодействие с пользователями через текст, изображения, аудио, видео и другие форматы.

Проект предлагает такую модель регулирования, при которой поставщики обязаны предупреждать пользователей об опасности чрезмерного использования ИИ и вмешиваться при появлении признаков зависимости.

Согласно документу, провайдеры будут нести ответственность за вопросы безопасности на всех этапах жизненного цикла продукта и обязаны внедрять механизмы контроля алгоритмов, защиты данных и персональной информации.

Отдельный акцент сделан на психологических рисках: от компаний ожидается мониторинг состояния пользователей, оценка их эмоционального фона и степени привязанности к сервису. При выявлении крайних эмоциональных реакций или аддиктивного поведения поставщики должны принимать меры для их коррекции.

Кроме того, документ предусматривает введения жесткого ограничения на контент и поведение ИИ, запрещая генерацию материалов, которые могут угрожать национальной безопасности, распространять слухи или пропагандировать насилие и непристойность.