Филиппинские фрилансеры получили доступ к тысячам камер наблюдения США

Мы как-то писали про Flock — частную сеть умных камер с ИИ, которая помогает американской полиции искать угнанные машины, подозреваемых и мигрантов. Теперь у этой истории появилось продолжение: журналисты 404 Media обнаружили, что разметкой видео и аудио с камер Flock занимаются аутсорс-работники из Филиппин, нанятые через платформу Upwork. При этом им выдают реальные кадры с американских улиц и просят расставлять теги — отмечать цвета машин, номера, крики, звуки выстрелов и так далее.

Схема обнаружилась случайно: Flock оставил открытой внутреннюю панель с метриками разметки и обучающими материалами, которую заметили и исследовали 404 Media. В панели были счётчики аннотаций, очереди задач, списки исполнителей с филиппинскими профилями в соцсетях и подробные гайды: как распознавать марку и цвет машины, считывать номера и как оценивать, взрослый ли кричит или ребёнок. После запроса журналистов панель оперативно скрыли, а в самой компании ситуацию комментировать не стали.

В том, что ИИ-компании нанимают разметчиков за рубежом, нет ничего необычного — разметка это монотонная механическая работа, поэтому логично переносить её туда, где дешевле рабочая сила. Но тут есть один нюанс — Flock работает с реальными кадрами массовой сети наблюдения за жителями США. Её камеры стоят в тысячах городов страны, а данные используются полицией. И тут получилось, что филлипинские фрилансеры получили доступ к видео с лицами людей, номерами их машин, местами парковки и другими важными данными, которые вряд должны были достаться кому-то за пределами США.