
Защитники конфиденциальности и цифровых прав поднимают тревогу по поводу закона, который многие ожидают, что они будут подбодрить: федеральное подавление порно мести и глубоководства, сгенерированных AI.
Недавно подписанный Закон о том, как это запустит его, делает незаконным публикации неконсуалированных явных изображений-реальных или сгенерированных AI-и дает платформы всего 48 часов, чтобы соответствовать запросу жертвы или с ответственностью. В то время как широко восхваляя как давняя победа для жертв, эксперты также предупредили его смутный язык, слабые стандарты для проверки претензий и напряженное окно соответствия могут проложить путь для переизбывания, цензуры законного содержания и даже наблюдения.
«Модерация контента в масштабе широко проблематична и всегда заканчивается тем, что важная и необходимая речь подвергается цензуре», — сказал TechCrunch, директор по федеральным вопросам Electronic Frontier Foundation Foundation, организация по цифровым правам Индии.
Онлайн -платформы имеют один год для создания процесса удаления не согласных интимных изображений (NCII). В то время как закон требует запросов на смену от жертв или их представителей, он только запрашивает физическую или электронную подпись — идентификатор фотографии или другая форма проверки не требуется. Это, вероятно, направлено на сокращение барьеров для жертв, но это может создать возможность для жестокого обращения.
«Я действительно хочу ошибаться в этом, но я думаю, что будет больше запросов, чтобы снять изображения, изображающие странных и транс -людей в отношениях, и даже более того, я думаю, что это будет порно по согласованию», — сказал МакКинни.
Сенатор Марша Блэкберн (R-TN), соавтор ACT Take It Down, также спонсировал Закон о безопасности детей в Интернете, который возлагает ответственность за платформы для защиты детей от вредного контента в Интернете. Блэкберн сказала, что она считает, что содержание, связанное с трансгендерными людьми, вредно для детей. Точно так же Фонд наследия — консервативный аналитический центр, стоящий за проектом 2025 года — также заявил, что «удержать транс -контент подальше от детей защищает детей».
Из -за ответственности, с которой сталкиваются платформы, если они не снимают изображение в течение 48 часов с момента получения запроса, «по умолчанию будет то, что они просто снимают его, не проведя какого -либо расследования, чтобы увидеть, на самом деле это NCII или это еще один тип защищенной речи, или это даже актуально для человека, который делает запрос», — сказал Маккинтни.
Snapchat и Meta оба сказали, что они поддерживают закон, но ни один из них не ответил на запросы TechCrunch для получения дополнительной информации о том, как они будут проверять, является ли человек, который запрашивает тейкдаун, является жертвой.
Mastodon, децентрализованная платформа, которая размещает свой собственный флагманский сервер, к которому могут присоединиться другие, сказал TechCrunch, что будет склоняться к удалению, если будет слишком сложно проверить жертву.
Мастодон и другие децентрализованные платформы, такие как Bluesky или Pixelfed, могут быть особенно уязвимы к пугающему эффекту 48-часового правила удара. Эти сети полагаются на независимые серверы, которые часто управляются некоммерческими организациями или частными лицами. Согласно закону, FTC может рассматривать любую платформу, которая не «разумно соблюдает» требованиям Takedown как совершению «несправедливого или обманчивого действия или практики» — даже если хозяин не является коммерческим сущностью.
«Это беспокоит его лицо, но особенно в тот момент, когда председатель FTC предпринял беспрецедентные шаги по политизации агентства и явно обещал использовать власть агентства для наказания платформ и услуг на идеологическую, в отличие от принципиального, основанного на основе», — заявил в заявлении кибер -гражданских прав, невырожденная достоверная достоверность.
Упреждающий мониторинг
МакКинни предсказывает, что платформы начнут смущать контент до его распространения, поэтому в будущем у них будет меньше проблемных постов.
Платформы уже используют ИИ для мониторинга вредного контента.
Кевин Го, генеральный директор и соучредитель Startup Content Content Content, сказал, что его компания работает с онлайн-платформами для обнаружения глубоководства и материалов сексуального насилия над детьми (CSAM). Некоторые из клиентов Hive включают Reddit, Giphy, Vevo, Bluesky и Breal.
«На самом деле мы были одной из технологических компаний, которые одобрили этот счет», — сказал Го, что TechCrunch. «Это поможет решить некоторые довольно важные проблемы и заставить эти платформы принять решения более активно».
Модель Hive-это программное обеспечение как услуга, поэтому стартап не контролирует, как платформы используют свой продукт для помещения или удаления контента. Но Го сказал, что многие клиенты вставляют API Hive в момент загрузки для мониторинга, прежде чем что -либо будет отправлено сообществу.
Представитель Reddit сказал TechCrunch, что платформа использует «сложные внутренние инструменты, процессы и команды для решения и удаления NCII». Reddit также сотрудничает с некоммерческим SWGFL, чтобы развернуть свой инструмент StopNCII, который сканирует живой трафик для матчей по базе данных известных NCII и удаляет точные совпадения. Компания не поделилась тем, как это гарантирует, что лицо, запрашивающее Takedown, является жертвой.
МакКинни предупреждает, что этот вид мониторинга может распространяться на зашифрованные сообщения в будущем. Хотя закон фокусируется на общественном или полупубличном распространении, он также требует, чтобы платформы «удаляют и приложили разумные усилия для предотвращения перезагрузки» интимных изображений, не являющихся соглашением. Она утверждает, что это может стимулировать проактивное сканирование всего контента, даже в зашифрованных пространствах. Закон не включает в себя каких-либо вырезанных аутов для сквозных зашифрованных услуг обмена сообщениями, таких как WhatsApp, Signal или Imessage.
Meta, Signal и Apple не ответили на запрос TechCrunch о дополнительной информации об их планах по зашифрованным сообщениям.
Более широкие последствия для свободы слова
4 марта Трамп выступил с совместным обращением к Конгрессу, в котором он высоко оценил акт «Отсутствие его» и сказал, что с нетерпением ждал, чтобы подписать его в законе.
«И я собираюсь использовать этот счет для себя, если вы не возражаете», — добавил он. «Никто не обращается хуже, чем я в Интернете».
В то время как аудитория смеялась над комментарием, не все воспринимали его как шутку. Трамп не стеснялся подавлять или ответить против неблагоприятной речи, будь то маркировка основных средств массовой информации «врагов людей», за исключением Ассошиэйтед Пресс из Овального офиса, несмотря на постановление суда, или вытащить финансирование от NPR и PBS.
В четверг администрация Трампа запретила Гарвардскому университету принять приема иностранных студентов, эскупив конфликт, который начался после того, как Гарвард отказался придерживаться требований Трампа, что он внесет изменения в свою учебную программу, и, помимо прочего, устранить содержание, связанное с DEI. В ответ Трамп заморозил федеральное финансирование в Гарварде и пригрозил отозвать статус освобождения от налогов.
«В то время, когда мы уже видим школьные советы, пытаются запретить книги, и мы видим, что некоторые политики будут очень явными в отношении типов контента, который они не хотят, чтобы люди когда -либо видели, для нас это критическая теория расы или информация об абортах или информацию об изменении климата… для нас очень неудобно, когда наша прошлая работа по модерации контента, чтобы увидеть, как члены обеих партий открыто выступают за контент -модерацию в этом масштабе», — сказал Маккинне.