Генеральный прокурор Техаса Кен Пэкстон в четверг начал расследование в отношении Character.AI и 14 других технологических платформ по поводу проблем конфиденциальности и безопасности детей. В ходе расследования будет оценено, соответствуют ли Feature.AI и другие платформы, популярные среди молодежи, включая Reddit, Instagram и Discord, законам Техаса о конфиденциальности и безопасности детей.
В расследовании Пакстона, который часто жестко обращается с технологическими компаниями, будет изучено, соблюдают ли эти платформы два закона Техаса: Закон о защите детей в Интернете посредством расширения прав и возможностей родителей, или Закон SCOPE, и Закон о конфиденциальности и безопасности данных Техаса, или DPSA.
Эти законы требуют, чтобы платформы предоставляли родителям инструменты для управления настройками конфиденциальности учетных записей их детей, а также требуют от технологических компаний соблюдения строгих требований согласия при сборе данных о несовершеннолетних. Пакстон утверждает, что оба этих закона распространяются на то, как несовершеннолетние взаимодействуют с чат-ботами с искусственным интеллектом.
«Эти расследования являются важным шагом на пути к обеспечению того, чтобы компании, занимающиеся социальными сетями и искусственным интеллектом, соблюдали наши законы, призванные защитить детей от эксплуатации и вреда», — заявил Пакстон в пресс-релизе.
Компания Feature.AI, которая позволяет создавать генеративных персонажей чат-ботов с искусственным интеллектом, с которыми вы можете отправлять текстовые сообщения и общаться в чате, недавно оказалась втянутой в ряд судебных процессов по вопросам безопасности детей. Чат-боты компании с искусственным интеллектом быстро завоевали популярность у молодых пользователей, но несколько родителей заявили в судебных процессах, что чат-боты Character.AI оставляли их детям неуместные и тревожные комментарии.
В одном случае из Флориды утверждается, что 14-летний мальчик завязал романтические отношения с чат-ботом с искусственным интеллектом персонажей и рассказал ему, что у него были мысли о самоубийстве в дни, предшествовавшие его собственному самоубийству. В другом случае, произошедшем в Техасе, один из чат-ботов Character.AI якобы предложил подростку-аутисту попытаться отравить свою семью. Другая родительница по делу Техаса утверждает, что один из чат-ботов Character.AI подвергал ее 11-летнюю дочь контенту сексуального характера в течение последних двух лет.
«Сейчас мы рассматриваем заявление генерального прокурора. Как компания, мы очень серьезно относимся к безопасности наших пользователей», — заявил представитель Character.AI в заявлении для TechCrunch. «Мы приветствуем сотрудничество с регулирующими органами и недавно объявили, что запускаем некоторые функции, упомянутые в релизе, включая родительский контроль».
В четверг компания Character.AI представила новые функции безопасности, направленные на защиту подростков, заявив, что эти обновления не позволят чат-ботам начинать романтические разговоры с несовершеннолетними. В прошлом месяце компания также начала обучение новой модели специально для пользователей-подростков — однажды она надеется, что взрослые будут использовать одну модель на ее платформе, а несовершеннолетние — другую.
Это лишь последние обновления безопасности, о которых объявил персонаж. На той же неделе, когда иск во Флориде стал достоянием общественности, компания заявила, что расширяет свою команду по вопросам доверия и безопасности, а недавно наняла нового руководителя этого подразделения.
Как и ожидалось, проблемы с платформами для общения с искусственным интеллектом возникают как раз по мере того, как они набирают популярность. В прошлом году Андриссен Горовиц (a16z) заявил в своем блоге, что считает общение с искусственным интеллектом недооцененным сегментом потребительского Интернета, в который он будет вкладывать больше средств. A16z является инвестором в Character.AI и продолжает инвестировать в другие стартапы, занимающиеся общением с искусственным интеллектом. , недавно поддержавшая компанию, основатель которой хочет воссоздать технологию из фильма «Она».
Reddit, Meta и Discord не сразу ответили на запросы о комментариях.
