Бросьте камень, и вы, скорее всего, наткнетесь на дипфейк. Коммеризация генеративного искусственного интеллекта привела к абсолютному взрыву фейкового контента в Интернете: по данным платформы проверки личности Sumsub, с 2023 по 2024 год количество дипфейков во всем мире выросло в 4 раза. По данным Sumsub, в 2024 году на дипфейки приходилось 7% всего мошенничества. , начиная от выдачи себя за другое лицо и захвата учетных записей и заканчивая изощренными кампаниями социальной инженерии.
Meta выпускает инструмент для нанесения незаметных водяных знаков на видеоклипы, созданные искусственным интеллектом, что, как они надеются, станет значимым вкладом в борьбу с дипфейками. Анонсированный в четверг инструмент под названием Meta Video Seal доступен с открытым исходным кодом и предназначен для интеграции в существующее программное обеспечение. Этот инструмент присоединяется к другим инструментам Meta для создания водяных знаков, Watermark Anything (переиздан сегодня под разрешительной лицензией) и Audio Seal.
«Мы разработали Video Seal, чтобы обеспечить более эффективное решение для нанесения водяных знаков на видео, особенно для обнаружения видео, созданных искусственным интеллектом, и защиты оригинальности», — сказал в интервью TechCrunch Пьер Фернандес, ученый-исследователь искусственного интеллекта в Meta.
Video Seal — не первая технология такого рода. SynthID от DeepMind может добавлять водяные знаки к видео, а у Microsoft есть собственные методики нанесения водяных знаков на видео.
Но Фернандес утверждает, что многие существующие подходы не оправдывают ожиданий.
«Хотя существуют и другие инструменты для создания водяных знаков, они не обеспечивают достаточной устойчивости к сжатию видео, что очень распространено при обмене контентом через социальные платформы; были недостаточно эффективны для масштабной работы; не были открытыми или воспроизводимыми; или были получены из водяных знаков на изображениях, что неоптимально для видео», — сказал Фернандес.
Помимо водяного знака, Video Seal может добавлять к видео скрытое сообщение, которое впоследствии можно будет обнаружить, чтобы определить его происхождение. Meta утверждает, что Video Seal устойчив к распространенным изменениям, таким как размытие и обрезка, а также к популярным алгоритмам сжатия.
Фернандес признает, что Video Seal имеет определенные ограничения, в основном компромисс между тем, насколько заметными являются водяные знаки инструмента, и их общей устойчивостью к манипуляциям. Сильное сжатие и существенные правки могут изменить водяные знаки или сделать их невосстановимыми, добавил он.
Конечно, более серьезная проблема, с которой сталкивается Video Seal, заключается в том, что у разработчиков и индустрии не будет особых причин для его внедрения, особенно у тех, кто уже использует проприетарные решения. Стремясь решить эту проблему, Meta запускает публичную таблицу лидеров Meta Omni Seal Bench, посвященную сравнению производительности различных методов нанесения водяных знаков, и организует в этом году семинар по нанесению водяных знаков на ICLR, крупной конференции по искусственному интеллекту.
«Мы надеемся, что все больше и больше исследователей и разработчиков ИИ будут интегрировать ту или иную форму водяных знаков в свою работу», — сказал Фернандес. «Мы хотим сотрудничать с промышленностью и академическим сообществом, чтобы быстрее прогрессировать в этой области».
