ЕК обязала разработчиков ИИ маркировать сгенерированный контент для защиты пользователей

Европейская комиссия опубликовала рекомендации, призванные помочь пользователям распознавать взаимодействие с искусственным интеллектом (ИИ), а также созданный или измененный с его помощью контент.

Как сообщает европейское бюро Report, новые требования направлены на снижение риска обмана и манипуляций и станут обязательными в рамках закона ЕС об искусственном интеллекте (AI Act).

По информации ЕК, разработчики систем искусственного интеллекта должны будут уведомлять пользователей о том, что они общаются с ИИ, а созданные или измененные с его помощью материалы - снабжать специальной машиночитаемой маркировкой, позволяющей их идентифицировать.

Платформы и другие организации, использующие такие системы, обяжут предупреждать пользователей о дипфейках, а также о материалах по вопросам общественного интереса, полностью созданных ИИ и не прошедших редакторскую проверку. Отдельные требования предусмотрены для систем распознавания эмоций и биометрической категоризации.

В комиссии отмечают, что новые правила должны сделать использование ИИ более прозрачным, чтобы люди могли отличить реальный контент от созданного алгоритмами.

Основная часть положений AI Act, включая требования о прозрачности, вступает в силу 2 августа. При этом для систем ИИ, уже находящихся на рынке до этой даты, обязанность по маркировке и обеспечению возможности обнаружения ИИ-контента начнет действовать с 2 декабря 2026 года.