Инцидент с AI-ассистентом привёл к сбоям в AWS

В декабре, во время использования внутрішнього инструмента Kiro, разработанного в Amazon, случился инцидент, который вызвал значительные проблемы для пользователей облачных сервисов AWS. AI-ассистент посоветовал инженерам удалить и заново настроить рабочую среду для устранения конфигурационных ошибок. После получения одобрения от сотрудников, система начала вносить автоматические изменения в инфраструктуру. Однако процесс вышел из-под контроля, что вызвало 13-часовые перебои в работе службы, затронувшие некоторых клиентов платформы, согласно информации Financial Times. Amazon позже указал, что причина кроется в человеческом факторе: инженер предоставил AI-ассистенту слишком высокий уровень доступа, что позволило ему выполнять важные операции без должной проверки. В результате инцидента компания усилила меры контроля доступа и обновила процедуры работы с AI, а также внедрила дополнительное обучение для своих сотрудников. Этот случай иллюстрирует, насколько важны строгие ограничения при использовании AI в технологиях уровня hyperscale.

Понравилась статья? Поделиться с друзьями: