Дипфейк-колл-центры: как мошенники поставили обман по видео на поток

Вакансия в камбоджийском Сиануквиле выглядит как мечта удалёнщика: контракт на полгода, релокация в Юго-Восточную Азию, зарплата до 7 тысяч долларов и работа в ИИ-индустрии. Правда есть нюанс — на входе в офис, скорее всего, отберут паспорт. А за смену, которая длится с 22 вечера до 10 утра, нужно сделать 100–150 видеозвонков с нейросетевой маской вместо лица. Коллеги из The Wired считают, что за этими объявлениями проглядывается переход азиатского мошенничества на корпоративные рельсы. Кустарные схемы с ворованными из Tinder фото сменились технологичным конвейером с жёстким разделением труда, и во многом благодаря ИИ.

В этом криминальном конвейере появилась новая, достаточно узкая специализация — AI face models. Это живые люди, чаще всего молодые женщины, которые сидят в специальных студиях перед камерой и нужны для общения с жертвами. Сначала один отдел ведёт текстовую переписку с клиентом, предлагая, например, инвестиции в криптовалюту. Когда жертва начинает сомневаться и требует созвона, контакт передают в специальную «ИИ-комнату». Нанятая модель садится перед камерой, а коммерческий софт на лету меняет ее лицо и голос в интерфейсе Zoom, WhatsApp или WeChat.

Если раньше дипфейки требовали технической подкованности и определённой доли кастомизации, то теперь продаются готовые B2B-решения вроде китайской платформы Haotian, которые интегрируются в мессенджеры и помогают менять внешность на лету. По оценкам Минфина США, только за 2024 год американцы потеряли на подобных схемах около 10 миллиардов долларов.