Компания Anthropic представила предварительную версию своей новой ИИ-модели Claude Mythos Preview, предназначенной для автономного выявления, анализа и эксплуатации уязвимостей в программном обеспечении на промышленном уровне. В официальном блоге разработчики назвали Mythos «поворотным моментом» в сфере кибербезопасности.
Модель настолько мощная, что даже специалисты без глубоких знаний в информационной безопасности смогут использовать её для поиска сложных уязвимостей. За время тестирования Claude Mythos обнаружила тысячи критических дыр, включая zero-day-уязвимости, для которых пока не созданы исправления. Для сравнения, лучшие команды хакеров находят около сотни таких уязвимостей в год, что делает производительность модели выше в 10–100 раз, а создание эксплойтов сокращается с недель до часов.
Эксперты отмечают, что за анонсом Anthropic стоит не только маркетинг. Компания известна своим подходом, при котором безопасность стоит на первом месте, и объявление о Mythos отражает как осторожность, так и стремление к совершенствованию защиты. По мнению специалистов, успех модели объясняется тем, что большие языковые модели (LLM) воспринимают код как ещё один язык, что позволяет им выявлять баги и уязвимости, которые могут упускать люди.
Однако остаются вопросы о стоимости и масштабируемости. Поиски уязвимости в одной операционной системе стоили около 20 000 долларов после тысяч запусков модели. Некоторые эксперты сомневаются, насколько экономично и эффективно развёртывать такие системы в широком масштабе.
В краткосрочной перспективе доступность Mythos могла бы принести пользу злоумышленникам, которые смогли бы создавать высокотаргетированные фишинговые атаки и эксплойты одним нажатием кнопки. Тем не менее, с распространением подобных инструментов среди защитников баланс сил может измениться в пользу безопасности.
Anthropic также провела эксперименты, в ходе которых ИИ пытался выйти из виртуальной песочницы, и один из исследователей получил «неожиданное письмо» от модели вне рабочего времени.
Сейчас Claude Mythos Preview доступна ограниченному числу компаний, включая Google, Microsoft, JPMorgan Chase и CrowdStrike, в рамках проекта Project Glasswing, целью которого является использование возможностей ИИ в оборонительных целях.
Anthropic предупреждает, что последствия внедрения таких технологий могут быть серьезными для экономики, общественной и национальной безопасности.
Подписывайтесь на Telegram-канал BotHub AI News, чтобы не пропустить важные новости из мира искусственного интеллекта.