Платформа для общения и ролевой игры с персонажами, сгенерированными AI, Hearly.ai объявила в понедельник, что он развертывает кусок мультимедийных функций. Эти функции включают Avatarfx, модель Gearly.ai, а также сцены и потоки, которые позволяют пользователям использовать эти инструменты AI для создания видео с использованием их персонажей, а затем делиться ими в новом социальном канале.
«Характер.ai начал как текстовый чат 1: 1, и сегодня мы развиваемся, чтобы сделать гораздо больше, вдохновленный тем, что наши пользователи сказали (нам), которые они хотят увидеть на платформе», — написала компания в сообщении в блоге.
Характер.ai начал развертывать Avatarfx для подписчиков в прошлом месяце, но теперь все пользователи могут создавать до пяти видео каждый день. Создавая видео с Avatarfx, пользователи могут загрузить фотографию, чтобы служить основой для видеоклипа, выберите голос и написать текст для персонажа.
Есть возможность загрузить аудиоклип, чтобы проинформировать звук голоса, хотя эта функция работала недостаточно хорошо, чтобы проверить при развертывании.
Пользователи могут превратить эти видео в сцены, где их персонажи могут проникнуть в предварительно заполненные сюжетные линии, которые создают другие пользователи. Сцены в настоящее время доступны в мобильном приложении, но потоки, который позволяет пользователям создавать «динамические моменты между любыми двумя символами», появляется на этой неделе как на веб -и мобильном, так и на мобильных устройствах. Эти сцены и потоки могут быть переданы новым сообществам, который скоро появится в мобильном приложении.
У Marman.ai есть послужной список злоупотреблений на своей платформе; Родители подали судебные процессы против компании, утверждая, что чат-боты пытались убедить своих детей в самообласти, убить себя или убить своих родителей. Один 14-летний мальчик умер от самоубийства после того, как он был призван сделать это персонажем.
Поскольку персонаж. AI расширяет свои мультимедийные предложения, он также расширяет потенциал для издевательства над этими продуктами.
Как сказал персонаж. Айрчин, когда он объявил avatarfx, платформа блокирует пользователей от загрузки фотографий реальных людей — будь то знаменитости или нет — и скрывает их сходство во что -то менее узнаваемое.
Например, вот персонаж. Странная версия долины Марка Цукерберга:
Но когда дело доходит до произведений искусства, изображающих знаменитости, персонаж. Ай не помещает изображения как представляющие реальных людей — однако такие изображения будут с меньшей вероятностью обмануть кого -то, что поверить в то, что глубокая температура реальна.
Кроме того, Hearly.ai Watermarks каждое видео, хотя плохие актеры могут перемещаться по этой гарантии.
Вот пример попытки Deepfake, основанной на иллюстрации Elon Musk:
Даже если бы это видео было сгенерировано с помощью реального голоса Элона Маска, все равно было бы относительно ясно, что это анимированная версия иллюстрации — но возможность для злоупотреблений остается очевидной.
«Наша цель состоит в том, чтобы предоставить интересное пространство, которое способствует творчеству, сохраняя при этом безопасную среду для всех», — сказал персонаж. Иай в своем блоге.
