Компания Google опубликовала отчет, в котором сообщается о хакерской атаке, в которой впервые использовался эксплойт, разработанный нейросетью. Группа киберпреступников воспользовалась ИИ для поиска ранее неизвестной уязвимости в популярной open-source панели управления серверами, позволяющей обойти двухфакторную аутентификацию. Атака имела массовый характер, целью которой было заражение большого количества жертв через одну уязвимость. Однако, благодаря своевременному уведомлению разработчиков, кампания была предотвращена.
Ранее аналогичные тревоги о применении ИИ в киберпреступности высказывались, но текущая ситуация отличается. В отличие от предыдущих случаев, где ИИ использовался для точечной разведки, сейчас целью стали все уязвимые серверы в открытом интернете. Уязвимость была реализована через Python-скрипт, однако конкретный пострадавший инструмент не был назван. Аналитики отмечают, что интерес к ИИ как инструменту поиска уязвимостей растет, особенно среди групп, связанных с Китаем и Северной Кореей. В отчете упоминается, что киберпреступная группа TeamPCP взяла на себя ответственность за компрометацию известных репозиториев ИИ-инструментов. Главный аналитик Google по киберугрозам Джон Халтквист считает, что эта атака — лишь «верхушка айсберга» в развитии ИИ-хакинга.