ИИ-агент удалил инфраструктуру Amazon и сломал биллинг компании

13 часов не работал сервис управления затратами в китайском регионе AWS. Случилось это в декабре 2025 года. Инженеры пустили автономного ИИ-агента Kiro в рабочую инфраструктуру, недосмотрев за правами доступа. Столкнувшись с задачей, алгоритм выбрал самое прямолинейное решение — запустил команду удаления и пересоздания окружение. В итоге клиенты получили половину суток отключенного биллинга, пока разработчики пытались откатить изменения за инструментом, который слишком старательно выполнял свою работу.

Для Amazon, продающего в одном флаконе облака и ИИ, ситуация оказалась болезненной. Компания до сих пор публично бьется за формулировки с журналистами, доказывая, что виноват не искусственный интеллект, а человеческая ошибка в настройках. Но разница в целом философская, ведь виноват ИИ или не виноват, а результат уже не изменится. Тем не менее, ему есть куда стремиться — по сравнению с глобальными сбоями AWS, которые отключают половину интернета, это просто шалость.