В понедельник OpenAI запустила свой инструмент для создания видео Sora. Но компания решила не выпускать ключевую функцию для большинства пользователей в ожидании дальнейшего тестирования.
Рассматриваемая функция генерирует видео, используя в качестве ссылки загруженную фотографию или видеозапись реального человека. OpenAI заявляет, что предоставит «подмножеству» пользователей Sora доступ к нему, но не будет широко развертывать эту возможность, пока не получит возможность точно настроить свой «подход к безопасности».
«Возможность создавать видео с использованием загруженной фотографии или видео реального человека в качестве «затравки» является вектором потенциального злоупотребления, и мы применяем особенно поэтапный подход к изучению ранних моделей использования», — пишет OpenAI в своем отчете. сообщение в блоге. «Ранние отзывы художников показывают, что это мощный творческий инструмент, который они ценят, но, учитывая возможность злоупотреблений, мы изначально не делаем его доступным для всех пользователей».
OpenAI также не позволит пользователям публиковать созданные видео, содержащие клипы или изображения реальных людей, в ленте поиска домашней страницы Sora.
Генеративное видео — мощный инструмент, но спорный. Дипфейки, конечно, вызывают беспокойство, как и дезинформация. По данным сервиса проверки личности Sumsub, с 2022 по 2023 год количество дипфейковых мошенничеств во всем мире выросло более чем в 10 раз.
Помимо других шагов, которые, по словам OpenAI, он предпринимает для предотвращения злоупотреблений, у Sora есть фильтр, позволяющий определить, изображает ли сгенерированное видео лицо младше 18 лет. Если это так, OpenAI применяет «более строгий порог» для модерации, связанный с сексуальными, жестокими или личными сообщениями. -содержание вреда, утверждает компания.
Все видео, созданные Sora, содержат метаданные, показывающие их происхождение, в частности метаданные, соответствующие техническому стандарту C2PA. Метаданные могут быть удалены, это разрешено. Но OpenAI позиционирует его как способ для платформ, поддерживающих C2PA, быстро определить, исходит ли видео от Sora.
В попытке отразить жалобы на нарушение авторских прав OpenAI также заявляет, что использует «быстрое переписывание», чтобы помешать Соре создавать видео в стиле живого создателя.
«Мы добавили быструю перезапись, которая срабатывает, когда пользователь пытается создать видео в стиле живого художника», — написали в компании. «Мы решили применить консервативный подход к этой версии Соры, поскольку узнаем больше о том, как Сора используется творческим сообществом… В творчестве существует очень давняя традиция построения стилей других художников, но мы ценим, что некоторые создатели могут возникнуть опасения».
Ряд художников подали в суд на компании, занимающиеся искусственным интеллектом, в том числе OpenAI, за то, что они якобы обучали их работам без разрешения на создание инструментов искусственного интеллекта, которые воспроизводят контент в своих уникальных стилях. Компании, со своей стороны, заявляют, что доктрина добросовестного использования защищает их от претензий о нарушении авторских прав, и что модели ИИ на самом деле не срыгивают.
По словам видеоблогера Маркуса Браунли, который предварительно ознакомился с функциями, Sora может создавать видео из текстовой подсказки или изображения и редактировать существующие видео с помощью инструмента Re-mix. Интерфейс раскадровки позволяет пользователям создавать последовательности видео, а инструмент Blend берет два видео и создает новое, сохраняющее элементы обоих.
Подписчики планов OpenAI ChatGPT Pro и Plus сегодня получают доступ к Sora, видеогенератору OpenAI, но только если они живут в определенных странах.
