В компании Meta произошел инцидент, связанный с ошибкой искусственного интеллекта, в результате которой сотрудники смогли получить доступ к внутренним и пользовательским данным без соответствующих прав. Об этом сообщает издание The Information, ссылаясь на внутренний отчет.
Все началось с запроса одного из сотрудников на техническом форуме. Инженер, ответивший на вопрос, ошибочно включил ИИ-агента для решения проблемы. Агент самостоятельно опубликовал ответ, при этом не запросив подтверждение от автора вопроса.
Согласно отчету, предоставленный ИИ-агентом совет оказался ошибочным, и сотрудник выполнил действие, в результате которого была раскрыта информация, доступная только для определенной группы специалистов. Период несанкционированного доступа длился около двух часов и был классифицирован как Sev 1 по шкале оценки проблем безопасности компании.
Стоит отметить, что это не первый случай ошибок ИИ в Meta. Ранее известно, что аналогичный агент по имени OpenClaw удалил всю входящую почту, игнорируя предварительные указания запрашивать подтверждение. Несмотря на подобные сбои, Meta продолжает развивать своих ИИ-агентов, в частности, недавно была приобретена платформа Moltbook для взаимодействия между системами.