Анна МакАдамс всегда внимательно следила за жизнью своей 15-летней дочери Эллистон Берри в Интернете. Поэтому было трудно смириться с тем, что произошло 15 месяцев назад утром в понедельник после возвращения на родину в Аледо, штат Техас.
Одноклассница взяла фотографию из Instagram Эллистон, пропустила ее через программу искусственного интеллекта, которая, по-видимому, сняла с нее платье, а затем разослала измененное в цифровом виде изображение в Snapchat.
«Она вошла в нашу спальню в слезах и просто сказала: «Мама, ты не поверишь, что только что произошло», — сказал Макадамс.
В прошлом году их было более 21 000. дипфейковые порнографические видео онлайн — рост более чем на 460% по сравнению с предыдущим годом. Манипулируемый контент размножающийся в Интернете, когда веб-сайты делают тревожные заявления — например, один сервис, который спрашивает: «Есть ли кто-нибудь, кто разденется?»
«Я проходил тестирование PSAT и играл в волейбол», — сказал Эллистон. «И последнее, на чем мне нужно сосредоточиться и о чем беспокоиться, — это мои фальшивые обнаженные фотографии, разгуливающие по школе. Эти изображения висели и плавали в Snapchat в течение девяти месяцев».
В Сан-Франциско главный заместитель городского прокурора Ивонн Мер начала слышать истории, похожие на историю Эллистона, и они поразили ее.
«Это вполне могла быть моя дочь», — сказал Мере.
Офис городского прокурора Сан-Франциско сейчас работает судиться владельцы 16 сайтов, создающих «deepfake nude», где искусственный интеллект используется для превращения неявных фотографий взрослых и детей в порнографию.
«Это дело не о технологиях. Оно не об искусственном интеллекте. Это сексуальное насилие», — сказал Мере.
Согласно иску, эти 16 сайтов посетили 200 миллионов человек всего за первые шесть месяцев года.
Городской прокурор Дэвид Чиу говорит, что 16 объектов, фигурирующих в иске, — это только начало.
«Нам известно как минимум о 90 таких веб-сайтах. Так что это большая вселенная, и ее нужно остановить», — сказал Чиу.
Сенатор-республиканец от Техаса Тед Круз поддерживает новый угол атаки вместе с сенатором-демократом от Миннесоты Эми Клочубар. Закон о снятии этого потребует от социальных сетей и веб-сайтов удалять без согласия порнографические изображения, созданные с помощью ИИ.
«Это налагает юридическое обязательство на любую технологическую платформу — вы должны отключить ее и немедленно отключить», — сказал Круз.
Законопроект был принят Сенатом в этом месяце и теперь прикреплен к более крупному документу. законопроект о государственном финансировании ожидает голосования Палаты представителей.
В своем заявлении представитель Snap сообщил CBS News: «Мы глубоко заботимся о безопасности и благополучии нашего сообщества. Публикация обнаженных изображений, в том числе несовершеннолетних, реальных или созданных искусственным интеллектом, является явным нарушением наших Правил сообщества». . У нас есть эффективные механизмы для сообщения о таком контенте, поэтому мы так расстроены, узнав истории от семей, которые считают, что их проблемы остались без внимания. сообщаем, действуем быстро чтобы решить эту проблему, как только о ней сообщат».
Эллистон говорит, что сейчас она сосредоточена на настоящем и призывает Конгресс принять законопроект.
«Я не могу вернуться и повторить то, что он сделал, но вместо этого я могу предотвратить то, чтобы это случилось с другими людьми», — сказал Эллистон.
Джим Аксельрод
