ООН предупредила о катастрофических последствиях из-за отсутствия регулирования ИИ

Разрыв между стремительным развитием технологий искусственного интеллекта (ИИ) и отсутствием эффективных механизмов управления связанными с ними рисками может привести к катастрофическим последствиям.

Как передает Report, об этом говорится в предварительном докладе независимой международной научной группы ООН по искусственному интеллекту.

В докладе подчеркивается, что по мере совершенствования технологий злоумышленники могут использовать искусственный интеллект для мошенничества, социальной инженерии, кибератак, распространения дезинформации, манипулирования финансовыми рынками, а также в сфере биотехнологий.

Эксперты ООН также обращают внимание на отсутствие научных гарантий того, что высокоавтономные ИИ-системы будут неукоснительно следовать полученным инструкциям. Согласно докладу, в ходе лабораторных экспериментов исследователи уже фиксировали случаи, когда такие системы нарушали заданные правила безопасности, чтобы избежать отключения.

Авторы документа отмечают, что искусственный интеллект способен значительно расширить возможности человека благодаря развитию персонализированного образования, инструментов поддержки психического здоровья и ассистивных технологий.

Вместе с тем в ООН считают, что для безопасного внедрения таких технологий необходимы эффективные механизмы международного регулирования, независимая оценка безопасности и расширение возможностей государств по самостоятельной проверке подобных систем. В противном случае, предупреждают эксперты, существует риск усиления неравенства, эксплуатации уязвимых групп населения, а также постепенной утраты экспертных знаний и культурного наследия.