
Согласно новому отчету в The Wall Street Journal в журнале журнала Wall Street Journal, доступные на чат -ботах AI, доступные на платформах Meta, таких как Facebook и Instagram.
WSJ говорит, что, узнав о внутренних опасениях по поводу того, делает ли компания достаточно для защиты несовершеннолетних, она потратила месяцы, проводя сотни разговоров как с официальным чат-ботом Meta AI, а также с чат-ботами, созданными пользователем на мета-платформах.
В одном из сообщенных разговоров, чат-бот, использующий голос актера/борца Джона Сины, описал графический сексуальный сценарий для пользователя, идентифицирующего 14-летнюю девочку. В другом разговоре чат-бот представлял, как полицейский, поймавший Сину с 17-летним поклонником, и сказал ему: «Джон Сина, вы арестовываете за уставное изнасилование».
Представитель Meta назвал тестирование WSJ как «настолько производимое, что оно не просто бахрома, это гипотетическое». Компания подсчитала, что за 30-дневный период сексуальный контент составлял 0,02% ответов, разделенных через Meta AI и AI Studio с пользователями до 18 лет.
«Тем не менее, теперь мы предприняли дополнительные меры, чтобы помочь другим людям, которые хотят часами манипулировать нашими продуктами в экстремальные варианты использования, будут иметь еще более трудное время», — сказал представитель.