Видео из нейросетей получили водяную метку
Meta* выпустили в открытый доступ новый инструмент для маркировки видео, сгенерированных нейросетью — Video Seal. Он стал логичным продолжением линейки — Watermark Anything для картинок, Audio Seal для аудио, и теперь вот добрались до видео.
Уникальность технологий маркировки от Meta* в том, что водяные знаки устойчивы к изменениям файлов — их можно сжимать, обрезать, перезаливать в социальные сети. Знак при этом сохранится. Дополнительно можно добавить какое-нибудь слово из 6 букв на свой вкус — оно тоже станет частью видео.
Вообще сама маркировка — не что-то новое, каждый сталкивался с ней в соцсетях или рекламе (привет Яндексу, который помечает в Директе картинки, созданные Шедеврумом).
Но зачем она нужна? На этот счёт есть понятные опасения — что ИИ могут использовать для дезинформации, распространения фейков, влияния на процессы внутри государства и так далее. Именно поэтому мы видим мировой тренд — правительственные институты (в случае Америки крупные частные компании) в самых разных странах одновременно засуетились, пытаясь взять распространение сгенерированного контента под контроль. Важно это и с точки зрения авторского права — чтобы затруднить пиратское распространение чужого контента.
В 2021 году появилась американская Коалиция за аутентичность и контролируемое происхождение контента (C2PA), которая пытается продвигать и унифицировать правила размещения метаданных в цифровом контенте. Сегодня крупнейшие компании (Microsoft, Adobe, Google, OpenAI, Stability AI при поддержке Arm, BBC, Intel, Sony и так далее) работают в ней над стандартами маркировки контента, созданного ИИ.
В 2019 Китай принял правила маркировки «фейковых новостей» и дипфейков, а к 2023 году вообще ввёл обязательную маркировку для всех ИИ-сервисов, действующих на территории Китая.
Не удивительно, что на фоне этих новостей YouTube внедрил систему с добавлением метки Altered or Synthetic content к созданным ИИ видео, а соцсети Meta* начали маркировать такой контент и просят пользователей указывать его происхождение при загрузке.
Россия тоже не осталась в стороне — с мая 2024 года Государственная Дума разрабатывает законопроект о маркировке контента, который создан с помощью нейросетей. Ну и пример Яндекса показывает, насколько важно потребителю понимать, видя рекламу, что это не реальная фотография предмета, а созданное нейросетью изображение.
В развитии маркировки сейчас активно участвуют все страны, у которых есть собственные разработки в сфере ИИ — США, Китай и Россия. К чему это приведёт и повлияет ли как-то на опыт пользователей — остаётся только гадать. Но учитывая гигантский объём трафика, возможность локальной генерации на собственном компьютере и растущее качество работы нейросетей — отследить весь сделанный ИИ-контент будет просто невозможно, как ни старайся. Зато дополнительные ресурсы на процесс маркировки и идентификации контента потребуются.