
Перепроизводие внимания уделяется тому, как люди обращаются к чат -ботам ИИ за эмоциональную поддержку, иногда даже навязывая отношения, часто приводит к тому, что такое поведение является обычным явлением.
Новый отчет Антропного, который делает популярного чат -бота ИИ Клод, раскрывает другую реальность: на самом деле люди редко ищут общения от Клода и обращаются к боту за эмоциональную поддержку и личный совет только в 2,9% случаев.
«Общение и ролевая игра составляют менее 0,5% разговоров», — подчеркнута компания в своем отчете.
Антропический говорит, что его исследование было направлено на то, чтобы раскрыть представление об использовании ИИ для «аффективных разговоров», которые оно определяет как личные обмены, в которых люди разговаривали с Клодом для коучинга, консультирования, общения, ролевой игры или советов об отношениях. Анализируя 4,5 миллиона разговоров, которые пользователи имели на Claude Free и Pro Tiers, компания заявила, что подавляющее большинство использования Claude связано с работой или производительностью, причем люди в основном используют чат -бот для создания контента.

Тем не менее, Антропик обнаружил, что люди чаще используют Клода для межличностных советов, коучинга и консультирования, при этом пользователи чаще всего просят совета по улучшению психического здоровья, личного и профессионального развития, а также изучению общения и навыков межличностного общения.
Тем не менее, компания отмечает, что разговоры, обращаясь за помощью, иногда могут превращаться в поиск общения в тех случаях, когда пользователь сталкивается с эмоциональными или личными страданиями, такими как экзистенциальный страх или одиночество, или когда ему трудно устанавливать значимые связи в своей реальной жизни.
«Мы также заметили, что в более длинных разговорах, консультирование или коучинг разговоров иногда превращаются в общение — несмотря на то, что это не является первоначальной причиной, по которой кто -то обратился», — написал Антропик, отметив, что обширные разговоры (с более чем более чем 50 человеческими сообщениями) не были нормой.
Антропический также подчеркнул другие идеи, например, как сам Клод редко противостоит запросам пользователей, за исключением случаев, когда его программирование не позволяет ему потратить границы безопасности, такие как предоставление опасных советов или поддержка самоповреждения. Разговоры также, как правило, становятся более позитивными с течением времени, когда люди ищут коучинг или советы от бота, сообщила компания.
Отчет, безусловно, интересен — он снова хорошо напоминает нам о том, сколько и как часто инструменты ИИ используются для целей вне работы. Тем не менее, важно помнить, что чат -боты ИИ по всем направлениям по -прежнему очень находятся в стадии разработки: они галлюцинируют, как известно, легко предоставляют неверную информацию или опасные советы, и, как признал сам антроп, могут даже прибегнуть к шантажу.