Агентный киберпанк

Anthropic опубликовала исследование , которое могло бы стать прологом к романам Уильяма Гибсона про киберпанк. Главный вывод в том, что хакеры перестали использовать нейросети просто как генераторы фишинговых писем или простых вирусов. Атаки переместились внутрь корпоративных сетей, а ИИ всё чаще доверяют разведку, поиск учётных записей и перемещение по чужой инфраструктуре.

Если раньше опасность хакера оценивали по количеству его личных навыков, то теперь эта разница нивелируется за счёт ИИ. В отчёте на базе 832 аккаунтов описано, как злоумышленники с этой целью собирают самостоятельные агентные системы, которые могут на ходу решать, как взламывать лёд защиту корпоративных сетей. Из-за этого всего за полгода доля хакеров с высоким уровнем угрозы выросла с 33% до 56%.

Яркий пример в исследовании - заблокированная шпионская операция. На первый взгляд заурядная, но Anthropic дала ей максимальные 100 баллов риска. Хакер превратил ПК с Kali Linux в подобие кибердеки: развернул на ней Claude Code, подключил нужные инструменты и сделал ИИ самостоятельным оператором. Человек задавал глобальную цель, а модель сама сканировала внутренние порталы, находила уязвимости, токены из облачных хранилищ AWS и решала, куда двигаться дальше. Правда, из исследования не понятно, насколько эффективной, а не только эффектной, была такая модель и каких результатов хакеру удалось достичь

Ну и так вышло, что сама Anthropic максимально заинтересована в продвижении исследования и его результатов. Ведь параллельно с отчётом компания развивает Mythos - специализированную модель, вокруг которой создаёт ореол всемогущества. Её не выводят в открытый доступ якобы из-за высокой опасности, а распределяют только среди избранных партнёров. Отчёт же идеально подходит для продвижения своего ИИ как оружия против хакеров и подготовке к будущему публичному релизу подобных моделей.