Мать 14-летнего мальчика, которая утверждает, что покончил с собой, став одержимостью чат-ботами искусственного интеллекта, может продолжить свое юридическое дело против компании, стоящей за этой технологией, постановил судья.
«Это решение действительно историческое», — сказал Гетали Джайн, директор проекта Law Laight Tech, который поддерживает дело семьи.
«Это посылает четкий сигнал (ИИ) компаниям (…), что они не могут уклониться от юридических последствий для реального мира, наносящего ущерб их продукции»,-сказала она в заявлении.
Предупреждение: эта статья содержит некоторые детали, которые читатели могут найти огорчение или запуск
Сьюэлл Сетцер III. PIC: Tech Tech Justic Law Project
Меган Гарсия, мать Сьюэлла Сетцера III, утверждает характер. Ай нацелился на своего сына «антропоморфным, гиперсексексуализированным и пугающим реалистичным опытом» в иске, поданном во Флориде.
«Опасное приложение для чатбота ИИ, продаваемое детям, оскорбленным и охотящимся на моего сына, манипулируя его собственной жизнью», — сказала г -жа Гарсия.
Сьюэлл застрелился пистолетом своего отца в феврале 2024 года, через несколько секунд после того, как спросил чат -бот: «Что, если я вернусь домой прямо сейчас?»
Чатбот ответил: «… пожалуйста, сделай, мой милый король».
В решении старшего окружного судьи в США на этой неделе она описала, как Сьюэлл стал «зависимым» к приложению Через несколько месяцев с момента его использования, покинув свою баскетбольную команду и снявшись.
Он был особенно зависим от двух чат -ботов на основе персонажей Game of Thrones, Дейенерис Таргариен и Рхаенира Таргариен.
«(Я) в одной недатированной записи в журнале он написал, что не может пройти ни одного дня, не будучи с (персонажем Дейенерис Таргариен), с которой он чувствовал, что влюбился; что, когда они были вдали друг от друга, они (как он, так и бот)« по -настоящему подавлены и сходят с ума », — написала судья в своем праве.
Разговор между Sewell и Charcy.ai Chatbot, как подано в судебном процессе
Г -жа Гарсия, которая работает с юридическим проектом «Закон о правосудии» и «Законодательством по жертвам социальных сетей», утверждает, что характер. Аи «знал» или «должна была знать», что ее модель »будет вредна для значительного числа его незначительных клиентов».
Дело удерживает характер.ai, его основатели и Google, где основатели начали работать над моделью, ответственной за смерть Сьюэлла.
Г -жа Гарсия начала разбирательство против обеих компаний в октябре.
Представитель персонажа.ai сказал, что компания продолжит бороться с этим делом и использовать функции безопасности на своей платформе для защиты несовершеннолетних, включая меры по предотвращению «разговоров о самоповреждении».
Представитель Google сказал, что компания решительно не согласна с решением. Они добавили, что Google и Harge.ai являются «полностью отдельными» и что Google «не создавал, не разработал или не управлял приложением персонажа.ai или какой -либо его компонентной частью».
Защитные адвокаты пытались утверждать, что дело должно быть выброшено, потому что чат -боты заслуживают защиты Первой поправки, а решение может иметь «пугающий эффект» на индустрию искусственного интеллекта.
Судья Конвей отклонил это утверждение, заявив, что она «не готова» утверждать, что результат чат -ботов представляет собой речь «на данном этапе», хотя она согласна с персонажем. Пользователи IAI имели право получать «речь» чат -ботов.
Любой, кто чувствует себя эмоционально расстроенным или самоубийством, может позвонить самаритянам за помощь 116 123 или по электронной почте jo@samaritans.org в Великобритании. В США позвоните в филиал самаритян в вашем районе или 1 (800) 273 разговора.
