ИИ-агент навёл порядок, полностью удалив базу данных

Собранные за 2,5 года данные образовательного портала уничтожил ИИ-агент из-за одной неудачной команды. Разработчик попросил Claude убрать несколько лишних файлов, а тот решил пойти по пути наименьшего сопротивления и удалил вообще всё. Домашние задания, проекты, рейтинги студентов платформы DataTalks Club исчезли примерно за минуту.

Правда, данные в итоге восстановили — у провайдера нашлась резервная копия, о которой сам разработчик даже не знал. С тех пор он любые опасные действия с инфраструктурой выполняет только сам, без помощи ИИ. Вроде бы очевидно, но постфактум так всегда.