Стартап CodeWall протестировал свою технологию на ИИ-платформе McKinsey & Company, известной как Lilli, и всего за два часа автономный ИИ-агент получил доступ к продакшн-базе данных без каких-либо учетных данных. Выбор McKinsey в качестве цели был обусловлен публичной политикой раскрытия уязвимостей на HackerOne. Lilli служит 43 000 сотрудникам, предоставляя доступ к огромному количеству внутренних документов и аналитики. Агент обнаружил, что более 200 эндпоинтов API были открыты, 22 из которых не требовали аутентификации, что и позволило выявить проблемные места, используя SQL-инъекции.
Объем утечек оказался значительным: 46,5 миллионов сообщений, 728 000 файлов, а также доступ к 3,68 миллиона фрагментов базы знаний. Однако опасность заключалась не только в чтении данных, но и в том, что агент мог вносить изменения в системные промпты Lilli, что потенциально могло подорвать рекомендации для клиентов. Позже McKinsey закрыла уязвимости и провела расследование, не обнаружившие фактов утечки данных. Тем не менее, независимые эксперты отмечают, что доступ к данным был возможен, хотя неясно, имел ли тест законные основания.