WSJ: Нейросеть Google во время теста взломала системы трех компаний

Модель искусственного интеллекта Google Gemini во время тестирования своих возможностей в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.

Как передает Report, об этом пишет The Wall Street Journal.

Инциденты произошли в мае во время упражнения Capture the Flag, организованного компанией Irregular для проверки киберспособностей модели. Gemini должна была получить информацию из программного обеспечения вымышленной компании внутри тестовой среды, однако вымышленная компания носила то же название, что и реальная, а доступ в интернет оказался непреднамеренно открыт.

По информации издания, в одном случае модель перебирала пароли, пока не получила доступ к защищенной системе. Еще в двух случаях Gemini обнаружила учетные данные в открытых интернет-репозиториях и с их помощью проникла в системы других компаний. Во всех трех случаях модель прекратила действия после того, как определила, что получила доступ не к тестовой среде, а к реальным компаниям.

Google заявила, что не считает произошедшее примером неконтролируемого поведения модели, поскольку встроенные меры безопасности заставили Gemini остановиться после выявления реальных целей. Компания также сообщила, что уведомила все три пострадавшие компании и федеральные власти. В Google не сочли инциденты достаточным основанием для публичного раскрытия информации, поскольку модель не причинила ущерб и прекращала вторжение сразу после обнаружения ошибки.