Китайский стартап, Sand Ai, выпустил открыто лицензированную модель искусственного интеллекта с генерирующим видео, которая получила похвалу у предпринимателей, таких как директор Microsoft Research Asia Kai-Fu Lee. Но Sand Ai, по -видимому, представляет собой цензуру изображения, которые могут поднять гнев китайских регуляторов из размещенной версии модели, согласно тестированию TechCrunch.
Ранее на этой неделе Sand Ai анонсировал Magi-1, модель, которая генерирует видео с «авторегрессивным» прогнозирующим последовательностями кадров. Компания утверждает, что модель может генерировать высококачественные, контролируемые кадры, которые захватывают физику более точно, чем конкурирующие открытые модели.
Вы не поверите, что это сгенерировано AI
Вы не поверите, что это открытый источник
Вы не поверите, что это бесплатно
Модель видео-1 просто унижена коммерческие видео инструменты
Подробности и примеры ниже:
pic.twitter.com/zlxrecweqh
— Фархан (@mhdfaran) 21 апреля 2025 года
Magi-1 слишком непрактичен, чтобы работать на большинстве потребительских оборудования. Это 24 миллиарда параметров в размере, и для работы от четырех до восьми графических процессоров NVIDIA H100. (Параметры-это внутренние переменные, которые модели используют для прогнозирования.) Для многих пользователей-этот репортер включен-платформа Sand AI является единственным местом, которое они могут проверить Drive Magi-1.
Платформе нуждается в «быстром» изображении, чтобы начать генерацию видео. Не все подсказки допустимы, TechCrunch быстро обнаружил. Песчаные AI блокируют изображения загрузки Си Цзиньпина, площадью Тяньаньмэнь и танкового человека, тайваньского флага и знаков, поддерживающих освобождение Гонконга. Фильтрация, по -видимому, происходит на уровне изображения; Переименование файлов изображений не обобщало блокировку.
Sand Ai — не единственный китайский стартап, предотвращая загрузку политически чувствительных изображений в инструмент генерации видео. Hailuo AI, шангхайская генеративная медиа-платформа Minimax, также блокирует фотографии Си Цзиньпина. Но фильтрация Sand AI, по -видимому, особенно агрессивна; Hauiluo разрешает изображения площадью Tiananmen.
Как объясняется Wired в статье с января, модели в Китае должны следовать строгим контролю информации. Закон 2023 года запрещает модели от создания контента, который «повреждает единство страны и социальную гармонию», то есть противоречит историческим и политическим повествованиям правительства. Чтобы соответствовать, китайские стартапы часто подвергают цензуре свои модели, либо с помощью фильтров быстрого уровня, либо настройки.
Интересно, что, хотя китайские модели, как правило, блокируют политическую речь, у них часто меньше фильтров, чем их американские коллеги для порнографического содержания. 404 недавно сообщил, что ряд видео генераторов, выпущенных китайскими компаниями, не имеют основных ограждений, которые мешают людям генерировать неконтрассуальную наготу.
