ИИ-трусы Шрёдингера

Сегодня все боятся, что их заменит ИИ. Похоже, не безосновательно. По крайней мере, ряд IT-гигантов, включая TikTok, X и даже вотчину Цукерберга, объявили за этот год о сокращении сотен редакторов и модераторов контента, заменив их ИИ. Оказалось, это не слишком хорошая идея.

Сопротивление линейного персонала внедрению автоматизации существовало всегда. Генри Форд, внедряя конвейер, сталкивался с большим давлением, и тем не менее именно конвейер стал основой новой технической революции. Замена живых людей на новом — контентном — конвейере звучит логично: работа эта тяжёлая, изматывающая и эмоционально травматичная. Это накладывается на постоянно растущий объём задач. Внедрение ИИ в этот процесс казалось вопросом времени.

Сегодня компании идут дальше и пытаются доверить ИИ разбор сложных случаев, где важен контекст, и здесь система ломается. Алгоритмы распознают оружие в кадре, но не понимают, что фраза «я тебя убью» в стриме по Call of Duty не реальная угроза. Они видят девушку в трусах, но не учитывают, что это фото с пляжа в купальнике. Это ведёт к ложным срабатываниям системы.

В лучшем случае это приводит к нелепым блокировкам, в худшем — к пропуску травли или пропаганды. Редакторы и модераторы, опрошенные Bloomberg, констатировали: до 80% советов ИИ приходится игнорировать. Получается, что без живых людей не обойтись.

Решить эту проблему на данный момент не удаётся, слишком быстро меняется язык, социальный и культурный контексты. К тому же, пользователи изобретают собственный сленг и другие способы для обхода алгоритмов. Так что замена живых модераторов на ИИ — это не вопрос технологии, а вопрос скорости адаптации. Учитывая, что адаптация ИИ происходит через обучение, а обучение проводят живые люди, вся эта история начинает напоминать главную загадку человечества: «что появилось раньше, курица или яйцо?».